No ano passado, eu e minha esposa, dois cientistas da computação, começamos a chorar depois de sair de um restaurante.
Havíamos passado o almoço sentados em frente a duas mesas: numa estava um grupo de idosos, na outra, um casal jovem com dois filhos pequenos. Na mesa dos idosos, não havia celulares à vista: todos conversavam e riam, aproveitando a vida entre amigos e efetivamente presentes no momento. Na mesa da família, as duas crianças estavam mergulhadas em seus jogos, e os pais não desgrudavam dos celulares. Só ouvíamos a voz do casal quando eles se dirigiam ao garçom. Foi impossível acompanhar a cena — tão comum hoje em dia — e não refletir sobre a promessa de liberdade e a realidade de escravidão trazidas pela tecnologia.
Agora, a Netflix traz um documentário que ataca o problema de frente, sem meias palavras. “The Social Dilemma” é narrado por Tristan Harris, um ex-designer do Google.
O filme defende a tese de que as redes sociais — originalmente criadas para nos deixar mais informados, unidos e felizes — estão criando uma sociedade desinformada, mais intolerante, mais violenta, mais polarizada e mais triste.
Algumas das pessoas mais brilhantes do mundo continuam trabalhando nesses projetos, anestesiadas pelos salários e benefícios exorbitantes oferecidos pelas empresas mais lucrativas da história. Mas aos poucos, alguns vem acordando, como os participantes do documentário, que inclui investidores e ex-executivos das maiores empresas de internet do mundo, como Google e Facebook.
Todos preocupados com o futuro das máquinas que ajudaram a criar.
De maneira lúdica, o documentário mostra como as redes sociais e ferramentas de busca criam modelos de aprendizagem de máquina que analisam toda e qualquer informação sobre seu comportamento online e offline para, dessa forma, persuadir o usuário com o conteúdo que mais vai engajá-lo e reter sua atenção. Tudo isso para que você veja mais anúncios direcionados e, consequentemente, essas empresas lucrem mais. Somos meros produtos para os verdadeiros clientes: os anunciantes.
Em “The Social Dilemma”, fica fácil entender como nos tornamos escravos de uma inteligência artificial que se alimenta dos dados que nós, inocentemente, entregamos de peito aberto, como a trilogia “The Matrix” previu 21 anos atrás.
As redes sociais detém nossas conversas privadas, nosso histórico completo de localização, trechos de áudio capturados pelo microfone, histórico de buscas e de ligações telefônicas, além de nosso nome, email e telefone. Muitas dessas informações não são necessárias para entregar o serviço proposto, mas possuem extremo valor para a entrega de publicidade individualmente segmentada, a verdadeira causa que mantêm essas empresas operando.
Os dados coletados não se restringem apenas ao que acontece dentro dos sites e aplicativos dessas empresas. Dada a hegemonia dos tags de rastreamento, as Big Tech recebem dados de navegação dos usuários de praticamente todos os aplicativo e sites do mundo.
Para crescer a receita de publicidade, técnicas de psicologia e neurociência são aplicadas para utilizar esses dados de forma a nos prender o maior tempo possível, vendo mais anúncios. A princípio, nada foi construído com outro interesse que não seja o de nos mostrar mais publicidade.
Mas os mesmos algoritmos que criaram essas máquinas de dinheiro geraram efeitos colaterais. No Twitter, por exemplo, conteúdos falsos engajam 6 vezes mais que conteúdos verdadeiros, aumentando a receita de publicidade junto com a recomendação de notícias falsas. Conteúdos polêmicos e extremistas engajam mais que visões de mundo moderadas, aumentando a polarização e a intolerância na sociedade.
Por trabalhar na indústria e conhecer a besta por dentro, sinto dizer que o documentário mostra apenas a ponta do iceberg.
Saúde mental
A ansiedade e a depressão são exacerbadas pelas mídias digitais. As pessoas só mostram a parte boa de suas vidas, como se ninguém passasse por dificuldade ou tivesse um dia ruim. Em muitos casos, até mesmo aquele momento feliz é totalmente artificial e criado para engajar seguidores. Além disso, fotos de pessoas que atendem aos padrões estabelecidos de beleza geram mais engajamento. As pessoas passam a achar isso comum e aumentam o nível de autocobrança pela busca da felicidade infinita e de um padrão de beleza inatingível.
No âmbito dos negócios, profissionais bem sucedidos expõem suas vidas de luxo, sem mostrar o estresse e o esforço envolvidos em suas profissões, fazendo as pessoas acreditarem que tudo aquilo é fácil e levando seus seguidores a quadros de ansiedade e depressão em relação ao seu status na sociedade.
Todos nós, eu e você, famosos ou anônimos, estamos viciados e deixando de viver nossas próprias vidas para vivermos por aqueles que nos assistem. Ainda assim, as gigantes da internet se vangloriam por “melhorar a vida das pessoas” quando estão, em grande medida, esvaziando-as.
Que privacidade?
O cerne de todos os problemas expostos está na falta de controle sobre a nossa privacidade online. Hoje, para se conseguir um mínimo de privacidade na internet, é necessário ter o mesmo nível de conhecimento e paciência que um hacker tem para invadir contas e cometer fraudes online. Já para criar uma máquina de vigilância em massa, basta saber um pouco de programação.
Aos 19 anos, eu e meus colegas de faculdade criamos uma tecnologia para coletar dados de sensores de localização de mais de 60 milhões de smartphones só no Brasil. Hoje, essa tecnologia é usada principalmente para aumentar a segurança das pessoas em aplicativos financeiros, e os dados coletados são anonimizados e encriptados para proteção de seus donos, e não podem ser usados para identificar diretamente uma pessoa, que permanece anônima. No entanto, essa tecnologia poderia facilmente ser usada para vários outros fins questionáveis.
Eu e meus sócios já rejeitamos inúmeras ofertas para vender os dados para diversas finalidades: campanha política, uso militar, cobrança de dívidas, entre outros. E por um motivo simples: a privacidade das pessoas.
A maior parte desses negócios, apesar de eticamente questionáveis, teriam operado dentro da lei. Fornecedores têm até uma tabela: por 40 centavos de dólar é possível comprar o histórico de geolocalização do smartphone de um indivíduo nos EUA. Optamos por não operar nesse modelo por vontade própria, e não por ter algum regulador nos obrigando a isso.
Esse fato mostra o quanto a sociedade está vulnerável em relação à privacidade de seus dados: dependemos dos valores éticos e morais dos donos das empresas de tecnologia, locais ou globais. Os dados das pessoas serão a nova moeda dos próximos anos. Cabe a nós utilizá-los para fins que preservem a identidade dos donos de qualquer dispositivo, seja ele móvel ou não.
Hoje, os CEOs das maiores empresas de tecnologia do mundo são indiscutivelmente mais poderosos do que qualquer chefe de estado, mas sempre que podem se esquivam de tal responsabilidade. Atualmente, as empresas que mais investem em lobby no mundo não são mais as do setor energético ou financeiro, e sim as de tecnologia que tem o propósito de fazer do mundo “um lugar melhor”. Por que então essas empresas benevolentes precisam investir tanto em lobby?
As novas regulações de proteção de dados ajudam, mas estão muito longe de resolver a questão. As gigantes da internet, ironicamente, foram algumas das maiores beneficiadas pelas novas regulações como LGPD, GDPR e CCPA. Além de nossa saúde mental, a liberdade individual, a democracia e o mundo civilizado como o conhecemos hoje estão em jogo.
Para onde vamos?
Em The Social Dilemma, fica claro que não há nenhum incentivo econômico para as empresas resolverem os problemas que estão ajudando a criar, tais como as fake news, aumento das taxas de depressão, ansiedade e suicídio, a polarização, a interferência nas eleições…
No fim das contas, essas empresas não parecem estar preocupadas em entregar informação de melhor qualidade ou em fazer o mundo mais aberto e conectado. O objetivo é apenas manter você cada vez mais conectado ao conteúdo publicitário que sutilmente aparece enquanto uma tela substitui as verdadeiras conexões sociais, que se perdem rapidamente.
As mídias digitais consomem o nosso cérebro. Vivemos o apocalipse zumbi sem ao menos perceber. Essas plataformas estão gerando cada vez mais consequências no mundo real. A mensagem final do documentário é clara: se nada for feito, podemos viver uma guerra civil e presenciar o fim da democracia por conta da centralização de poder sobre os dados.
O futuro é ainda mais assustador. Ferramentas mais imersivas, como os gadgets de realidade virtual que prendem uma tela em frente aos olhos, prometem nos isolar completamente do mundo real. Tornamo-nos escravos desse caça-níquel de atenção, enquanto a falsa sensação de estarmos consumindo informação relevante nos prende num mundo paralelo que aliena e desumaniza. A mente humana não é capaz de processar e guardar tanta informação, e essa avalanche, trazida pelas plataformas está nos impedindo de ter tempo para executar a mais humana das ações: PENSAR!
André Ferraz é co-fundador da Incognia, empresa que criou o conceito de biometria comportamental de geolocalização, uma nova forma de identidade digital que aumenta a segurança, privacidade e conveniência para usuários de aplicativos mobile.
