Uma distopia nem tão distópica

Uma distopia nem tão distópica

Novembro 19, 2019 - 12:55
0 comments

"Poder, no mundo de Case[1], significava poder corporativo. As zaibatsus[2], as multinacionais que davam forma ao curso da história humana, haviam transcendido antigas barreiras. Vistas como organismos, haviam adquirido uma espécie de imortalidade. Não se podia matar uma zaibatsu assassinando uma dezena de executivos principais; havia outros esperando para subir de nível, assumir os cargos vagos, acessar os vastos bancos de memória corporativa"[3]

Ainda podemos chamar Neuromancer de distopia?

No universo distópico criado por William Gibson, a sociedade encontra-se numa situação que poderíamos descrever como pós-humanidade[4], onde a globalização chegou a tal ponto que países deixam de existir e a própria noção de humanidade não faz mais sentido: megalópoles sombrias e super tecnológicas, alto grau de vigilância, super espetáculo e consumo, domínio mundial de conglomerados, fusão do sintético com o orgânico. Em Neuromancer, os indivíduos vivem soterrados por intensos problemas sociais como depressão, fobias distintas, dependências químicas variadas e violência empresarial, seja por meio da pobreza causada pela hiperacumulação de capital ou por seus aparatos de repressão. Neste mundo, a existência de Estado-Nação é meramente simbólica e, em algumas situações, inexistente, como é o caso dos EUA, que implodiu enquanto Estado passando a ser um território dividido e controlado por corporações. Em um mundo onde as mega corporações aniquilam, absorvem e substituem governos, com eles vão também as relações sociais da forma como conhecemos: a coletividade agoniza enquanto a individualização extrema toma conta da sociedade. Atravessando tudo isso e servindo como um dos pilares da dominação está a tecnologia e a ciência que, ao contrário de nos levar para um futuro de paz e progresso (como acreditam os românticos cientificistas), estas balizam as relações sociais, rompem o tecido que separa o material e o virtual, o orgânico e o sintético. Não estar conectado ao ciberespaço global, no livro denominado Matrix, é significado de não vida. Os 99% despossuídos e despossuídas de meios de produção materiais e virtuais se enfrentam em uma constante luta por dinheiro, com o qual sua utilização principal é tornar-se vivo, ou seja, a compra de produtos para estar conectado. Feita esta introdução fica a pergunta: até que ponto podemos chamar a distopia de William Gibson de distópica? Empresas tomando o controle e aniquilando Estados, a necessidade de se fazer presente no meio virtual, individualização dos processos sociais, tecnologia e ciência como engrenagens da desigualdade, consumo e vigilância. Neuromancer está mais próximo de nossa atualidade do que pensamentos. Mas de que forma? É sobre isso que pretendo falar nesse texto.

 

Os despossuídos cada vez mais despossuídos

Não é novidade ouvir que a tecnologia avançou nos últimos anos como nunca antes. Com as mudanças tecnológica, muda-se também a sociedade. Se na década de 90 víamos nossos pais e mães chegarem do trabalho e não mais terem que se preocupar com isso, hoje sexta feira a noite recebemos mensagens via whatsapp com cobranças de nossos chefes. Ao entrarmos num ônibus é difícil ver alguém que não esteja de cabeça baixa conferindo e postando nas variadas redes sociais: instagram com seus múltiplos filtros que modificam nossa fisionomia, tik tok e suas várias possibilidades de edição e mixagem de vídeos, facebook com seus grupos e bolhas discussões, tinder para buscarmos namoro ou sexo casual. Não apenas nossas relações sociais estão dependentes de aplicativos, mas nossas particularidades e decisões individuais: waze para nos dizer qual trajeto fazermos, app de dieta, prática de esportes, tabela de menstruação, controle de dosagem de remédio, blogueiras com suas milhões de stories falando como nos vestir, spotify nos indicando música "com nosso estilo", testes online que mapeiam nossas habilidades e indicam qual profissão devemos seguir. Se antes a escolha de qual roupa usar, qual rua entrar ou o que ouvir era um exercício pessoal, hoje temos apps que fazem isso por nós. Do outro lado, no real (se é que ainda há essa distinção entre real e virtual), a biotecnologia e bioengenharia nos fornecem próteses, harmonização facial, remodelamento corporal e cirurgias plásticas. Após um dia inteiro andando de transporte público e acessando redes sociais, não é incomum ver no "rosto de uma estranha [...] uma beleza de praxe, criada a partir de cirurgias eletivas baratas e do incansável darwinismo da moda, um arquétipo reunindo os rostos da grande mídia nos últimos cinco anos"[5]. Barreiras culturais e especificidades regionais se tornam cada vez mais fluidas e passam a se misturar numa ordem global estética e social. Tudo isso estudado, tabelado e organizado por algoritmos ou, melhor dizendo, big data.

Para quem nunca ouviu falar ou não sabe muito bem o que é isso, um exemplo prático: ao instalarmos um app de música inicialmente tudo que ele mostra são categorias genéricas como funk, pop, rock, indie, sertanejo, etc. Passado um tempo de utilização, começam a aparecer abas como "playlists recomendadas", "lançamentos recomendados" e não será estranho se dentre as recomendações encontrarmos diversas músicas que de fato vai nos agradar. Isso é um exemplo prático de big data. Toda vez que instalamos um app ou nos cadastramos em algum site, dentre aqueles termos enormes concebidos para que não seja lido estão termos de "consentimento" para utilização de nossos dados de uso de forma a permitir que a empresa “preste um serviço cada vez melhor”, é o que eles dizem. Como isso é possível, quem tem acesso e administra essa quantidade massiva de dados? Para responder essas perguntas preciso trazer para a discussão termos como inteligência artificial (AI), machine learning e FAANG. 

FAANG é o grupo de empresas formado por Facebook, Amazon, Apple, Netflix e Alphabet's Google (conglomerado o qual uma das empresas vinculadas é o Google, por isso o G). Atualmente, essas empresas dominam o mercado da tecnologia e são tidas como representantes de, não somente um novo cenário econômico, como também nas relações de consumo e no comportamento social globalizado. Levantamentos feitos recentemente mostram que entre 2013 e 2018, as 4 empresas originais do grupo (excluindo a Apple) obteve a estratosférica marca de 691% de lucro para seus acionistas. Em março de 2019, a FAANG possuía uma capitalização de mercado[6] de 3,1 trilhões de dólares (12,92 trilhões de reais)[7], vale ressaltar que o PIB (Produto Interno Bruto) do Brasil em 2018 foi de 6,8 trilhões de reais. Juntas essas empresas dominam as pesquisas nas áreas de AI, machine learning, big data, entre outros campos da informação considerados a mina de ouro da atualidade. 

Se fizermos um recorte para a Google, de acordo com seu site, em 2018 só esta empresa publicou 717 artigos sobre AI e a afins[8]. Para dados mais específicos, dentre as principais áreas de pesquisas da Google, dos 717 artigos, 377 foram na área de Machine Intelligence[9], 158 em Machine Perception[10] e 43 em Human-Computer Interaction and Visualization[11]. Sabendo dessas pesquisas, fica mais evidente como é que propagandas aparecem a todo momento em nossos computadores e celulares mostrando justamente o que gostaríamos de comprar. Quem nunca após fazer uma busca por um produto específico em site de vendas viu suas redes serem tomadas de propaganda de produtos semelhantes? Tudo isso é fruto da big data.  Apesar do discurso apaziguador que permeia as mídias e outros meios liberais sobre a "importância" da big data na atualidade, como podemos ver no seguinte trecho retirar de uma matéria publicada no jornal El País:  

"Os algoritmos que conduzem o aprendizado de máquina precisam de tantos dados e fontes quanto for possível. Quanto mais dados são inseridos, mais inteligente se torna e maior é seu potencial para a tomada de decisões. [...] O encanto do aprendizado de máquina é que seus usos são quase ilimitados. Onde há valor para analisar rapidamente e ampliar a compreensão dos dados, existe um papel a desempenhar. Onde houver valor para identificar tendências ou anomalias em grandes conjuntos de dados, pode haver um efeito transformador, desde a pesquisa clínica até o cumprimento normativo e a segurança."[12]

Cabe pontuar que quando falam de fontes e dados, as fontes somos nós e os dados são nossas individualidades, interesses, informações de maneira geral. Será que essa quantidade imensurável de informações deveria estar sob controle de empresas?

 

A Era da Informação (ditadura virtual?)

No dia 12 de julho de 2019 o jornal El País publicou uma matéria onde, após a divulgação de mais de mil vazamentos de áudios por uma emissora belga, a empresa Google vai a público e admite que são ouvidas 0,2% das conversas das pessoas em todo o mundo, com a justificativa de melhorar a prestação de serviços[13]. Poucos tempo depois, no dia 23 de julho, outra matéria é publicada neste mesmo jornal, onde transcritores que trabalham para a Google admitem que realmente ouvem mensagens pessoais nossas com o objetivo de melhorar a assistente de voz[14]. Mais recentemente, no dia 22 de outubro, vem a tona o depoimento de um ex funcionário da empresa revelando que a Google pode acessar todos os documentos que guardamos na nuvem[15]. É importante dizer que, ao contrário da proposital impressão causada em nós de que quando guardamos arquivos na nuvem eles não estão em local nenhum, simplesmente desvanecem no ar, todas as informações são armazenadas em locais chamados data centers, também gerenciados por essas empresas.

A matemática Cathy O'Neil[16] em seu livro publicado com o título Weapons of Math Destruction, dentre os assuntos abordados fala de sua trajetória de trabalhadora da Wall Street para militante do movimento Occupy Wall Street. O'Neil revela como os algoritmos, disfarçados de uma pretensa neutralidade por serem arranjos lógicos e matemáticos, traduzem valores sexistas, racistas e aprofundam desigualdades. Em entrevista dada em novembro do de 2018, a matemática é questionada sobre a utilização de algoritmos no mercado de trabalho, sua resposta foi a seguinte:

"A automatização dos processos de seleção está crescendo entre 10 e 15% ao ano. Nos Estados Unidos, já são usados com 60% dos trabalhadores em potencial, e 72% dos currículos não chegam a ser analisados por pessoas. Os algoritmos costumam castigar os pobres, enquanto os ricos recebem um trato mais pessoal. Por exemplo, um escritório de advocacia renomado ou um colégio privado de elite se basearão mais em recomendações e entrevistas pessoais durante os processos de seleção do que uma rede de fast food. Os privilegiados são analisados por pessoas, e as massas, por máquinas. Se você quiser trabalhar num call center ou como caixa, tem que passar por um teste de personalidade. Para um cargo no Goldman Sachs há uma entrevista. Sua humanidade é levada em conta para um bom trabalho. Para um emprego de salário baixo, você é simplesmente analisado e categorizado. Uma máquina lhe etiqueta."[17]

Por fim, retomo a pergunta: a maior quantidade de dados já gerados na história da humanidade deveria estar na mão de empresas? Diante de uma total ausência de qualquer tipo de regulamentação estatal e políticas públicas sobre a utilização dessas informações e as recentes revelações de interferências empresariais diretas em processos eleitorais e decisões governamentais, somados a crise sistêmica que vivemos, desloca-se o polo de regulador e mediador das relações sociais do Estado para as empresas. Se um dia as empresas precisavam dos Estados para sua sobrevivência, hoje a lógica se inverte. De um capitalismo Estatal podemos estar vivendo a transição para um capitalismo sem pátria, regido por conglomerados que desenrolam seus tentáculos pelo globo, formatando nossos corpos, nossa mente e nossas relações. Empresas como FAANG não se restringe mais à desenvolvedoras de software para computadores e celulares, elas agora produzem carros, geladeiras, televisores, aparelhos de som, eletrônicos de reconhecimento de voz, face e olhos, extingue empregos formais e criam outros cada vez mais precarizados, como os serviços de entrega via app. Se um dia o campo de atuação das FAANG era a tecnologia, hoje elas investem em pesquisadores[18] que estão construindo a base teórica do que já vem sendo chamado de pós humanismo. Em um mundo ultraliberal as empresas não irão apenas se auto regular (ou seja, farão o que quiserem), mas regularão a cultura, os Estados, nossas subjetividades e coletividades, nossas formas de pensar. Ao que parece, podemos estar mais próximos de Neuromancer do que pensamos.          

Notas 

[1]Case é o personagem principal de Neuromancer, livro escrito por William Gibson e lançado 1984. O autor cria junto do leitor e leitora o imaginário de uma sociedade cyberpunk distópica, onde o limite entre o real e virtual não mais faz sentido.
[2]Conglomerado multinacional japonesa de base familiar existente no mundo de Neuromancer.
[3] GIBSON, 2016, p. 240.
[4]Para mais informações sobre a filosofia pós humanista e suas implicações, consultar os seguintes textos, respectivamente: Adeus ao homem (?) - https://midiaindependente.org/?q=node/640 A Distopia Dataísta - https://midiaindependente.org/?q=node/611 
[5] GIBSON, 2017, p.15
[6]Estimativa do valor de mercado dessa empresa de acordo com as expectativas acerca de condições econômicas e monetárias futuras.
[7]https://www.investopedia.com/terms/f/faang-stocks.asp
[8]https://ai.google/research/pubs/?year=2019&area=MachineIntelligence
[9]De acordo com o próprio site, Machine Intelligence, é a exploração, desenvolvimento e aplicação de teorias de machine learning, de forma que seja possível o aperfeiçoamento de algoritmos de interpretação e generalização - https://ai.google/research/pubs/?year=2018&area=MachineIntelligence
[10]Machine Perception é o campo que estuda e desenvolve o entendimento de imagens, sons, vídeos e músicas. Um exemplo prático da aplicabilidade deste campo é o desenvolvimento de reconhecimento óptico e facial - https://ai.google/research/pubs/?year=2018&area=MachinePerception
[11]Elaboração e desenvolvimento de algoritmos capazes de interpretar e entender comportamento do usuário, possuindo já ampla utilização em plataformas como a ferramenta de pesquisa do Google, Gmail, Docs, Maps, Chrome, Android, YouTube, etc. É comum projetos fundirem este campo com resultados provenientes da  machine learning - https://ai.google/research/pubs/?year=2018&area=Human-ComputerInteractionandVisualization
[12]https://brasil.elpais.com/brasil/2017/11/28/tecnologia/1511866764_933798...
[13]https://brasil.elpais.com/brasil/2019/07/12/tecnologia/1562914719_220640...
[14]https://brasil.elpais.com/brasil/2019/07/22/tecnologia/1563802334_363522...
[15]https://brasil.elpais.com/brasil/2019/10/13/tecnologia/1571002375_070559...
[16]Cathy O’Neil é uma matemática estadunidense autora de diversos livro sobre big data. Após deixar a vida acadêmica em 2007, passou  a trabalhar em empresas financeiras. Com o tempo, passou a entender a lógica de funcionamento dos algoritmos utilizados pelo setor rentista e os valores por trás deles, abandonando seu antigo emprego e passando a fazer parte do movimento Occupy Wall Street.
[17]https://brasil.elpais.com/brasil/2018/11/12/tecnologia/1542018368_035000...
[18]Dois exemplos de teóricos do pós humanismo são os pesquisadores: Aubrey de Grey, matemático, biomédico e gerontologista, possui estudos na área de prolongamento da vida com o fim de tornar possível que as pessoas não venham a morrer devido envelhecimento; Ben Goertzel, sociólogo e matemático, com estudos na área de desenvolvimento de AI para reconhecimento, interpretação e entendimento geral do comportamento humano.

 

Bibliografia

FEDERECI, Silvia. Calibã e a Bruxa: Mulheres, corpo e acumulação primitiva. São Paulo: Elefante, 2017. 

GIBSON, William. Neuromancer. 5 ed. São Paulo: Aleph, 2016.

_______, William. Count Zero. 2 ed. São Paulo: Aleph, 2017.

MÉSZÁROS, István. O poder da Ideologia. 1.ed, 5.reimpr. São Paulo: Boitempo, 2014.

O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. Nova York: Crown Publishers, 2016

 
Rhavel é físico e mestrando em filosofia. É um dos fundadores e editores do Portal Autônomo de Ciências.

Comentar

Plain text

  • Nenhuma tag HTML permitida.
  • Endereços de sites e e-mails serão transformados em links automaticamente.
  • Quebras de linhas e parágrafos são gerados automaticamente.