Quem acompanha as entrevistas e artigos do historiador israelense Yuval Noah Harari, o autor do best-seller Sapiens, já conhece os receios e angústias que a inteligência artificial desperta em sua mente.
Agora, suas reflexões sobre o impacto avassalador que essa revolução tecnológica poderá exercer no futuro da humanidade estão num novo livro, Nexus – Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial (tradução de Berilo Vargas e Denise Bottmann; Companhia das Letras; 504 páginas), com lançamento mundial no dia 10 de setembro.
A IA é a tecnologia mais poderosa já criada porque “não é uma ferramenta – é um agente,” Harari diz no livro.
“Metralhadoras e bombas atômicas substituíram músculos humanos ao matar, mas são incapazes de substituir cérebros humanos ao decidir quem matar,” escreve o autor.
A IA supera todas as armas e tecnologias da informação anteriores, defende Harari – e, sem regulação, “está se tornando um agente que pode escapar de nosso controle e de nossa compreensão e que é capaz de tomar iniciativas para moldar a sociedade, a cultura e a história.”
Em sua opinião, se soubermos tirar lições da história e fazer escolhas conscientes, poderemos escapar de desfechos desastrosos. “Afinal, se não pudermos mudar o futuro, por que perder tempo discutindo sobre ele?”
A seguir, um trecho adaptado do capítulo 9 do livro, em que o historiador comenta o lado sombrio da Revolução Industrial e faz paralelos com o que pode estar por vir com a inteligência artificial.
***
Muitos especialistas alertam que a inteligência artificial representa uma ameaça existencial para a humanidade. Outros consideram esses alertas exageros. Enquanto a ameaça das armas nucleares é óbvia para todos, é difícil compreender por que a IA é tão perigosa. A história da Revolução Industrial pode nos ajudar a entender os perigos inerentes à nova Revolução da IA.
Muitos especialistas alertam que a ascensão da IA pode resultar no colapso da civilização humana, ou até na extinção de nossa espécie. Num estudo de 2023 com 2.778 pesquisadores de IA, mais de um terço respondeu que há pelo menos 10% de chance de que a IA avançada resulte em desfechos negativos, como a extinção humana. Em 2023, quase trinta governos – incluindo os da China, dos EUA e do Reino Unido – assinaram a Declaração de Bletchley sobre IA, reconhecendo que “existe potencial para danos graves, até mesmo catastróficos, sejam deliberados ou acidentais, decorrentes das capacidades mais significativas desses modelos de IA.”
Para alguns, esses alertas parecem lamúrias exageradas. Com o surgimento de uma nova tecnologia poderosa, vinham as preocupações de que ela poderia trazer o apocalipse. Por exemplo, com o desenrolar da Revolução Industrial muitos temiam que as máquinas a vapor e os telégrafos destruíssem nossas sociedades e nosso bem-estar.
Mas as máquinas acabaram produzindo as sociedades mais prósperas da história. Hoje a maioria das pessoas desfruta de condições de vida muito melhores do que seus antepassados no século XVIII. Entusiastas da IA como Marc Andreessen e Ray Kurzweil prometem que as máquinas inteligentes serão ainda mais benéficas do que seus predecessores industriais. Eles afirmam que os seres humanos terão uma qualidade muito maior no atendimento à saúde, na educação e em outros serviços, e a IA até ajudará a salvar o ecossistema da catástrofe.
Infelizmente, um olhar mais atento à história revela que temos de fato ótimas razões para recear novas tecnologias poderosas. Mesmo que, ao fim, os aspectos positivos dessas tecnologias superem os negativos, haverá diversas provações e tribulações até se chegar a esse final feliz. Uma tecnologia nova muitas vezes conduz a calamidades históricas, não porque a tecnologia é intrinsecamente má, mas porque leva tempo até que os seres humanos aprendam a usá-la com sabedoria.
A Revolução Industrial é um excelente exemplo. Quando começou a se difundir ao redor do mundo no século XIX, a tecnologia industrial subverteu estruturas econômicas, sociais e políticas tradicionais e abriu caminho para a criação de sociedades inteiramente novas, com potencial de serem mais prósperas e pacíficas. No entanto, o aprendizado para montar sociedades industriais benignas não foi nada fácil e envolveu uma série de experimentos custosos e centenas de milhões de vítimas.
Um desses experimentos foi o imperialismo moderno. A Revolução Industrial se originou na Grã-Bretanha, no final do século XVIII. Ao longo do século XIX, as tecnologias e os métodos de produção industriais foram adotados em outros países europeus, da Bélgica à Rússia, além dos EUA e do Japão.
Pensadores, políticos e partidos imperialistas nesses centros industriais alegavam que a única sociedade industrial viável era um império. O argumento era que as novas sociedades industriais, à diferença das sociedades agrárias relativamente autossuficientes, se baseavam muito mais em mercados externos e em matérias-primas estrangeiras, e somente um império poderia atender a esses desejos inéditos. Os imperialistas temiam que os países que haviam se industrializado, mas que falharam na conquista de colônias, fossem excluídos do acesso a matérias-primas e a mercados essenciais devido à ação de concorrentes implacáveis. Alguns imperialistas argumentavam que a obtenção de colônias era não só essencial para a sobrevivência de seus próprios Estados, como também benéfica para o restante da humanidade. Alegavam que só os impérios seriam capazes de espalhar as bênçãos das novas tecnologias ao chamado mundo subdesenvolvido.
Em decorrência disso, países industriais como Inglaterra e Rússia, que já tinham impérios, passaram a expandi-los amplamente, enquanto países como EUA, Japão, Itália e Bélgica começaram a criá-los. Equipados com rifles e artilharias produzidos em massa, transportados pela energia a vapor e comandados via telégrafo, os exércitos da indústria se espalharam mundo afora, da Nova Zelândia à Coreia e da Somália ao Turcomenistão.
Milhões de povos nativos viram seu modo de vida tradicional ser esmagado pelas rodas desses exércitos industriais. Levou mais de um século de desgraças até que a maioria das pessoas entendesse que os impérios industriais eram uma ideia terrível e que havia formas melhores de construir uma sociedade industrial e de garantir as matérias-primas e os mercados necessários.
O stalinismo e o nazismo também foram experimentos extremamente custosos de construção de sociedades industriais. Dirigentes como Stálin e Hitler afirmavam que a Revolução Industrial desencadeara poderes enormes que apenas o totalitarismo poderia controlar e explorar em sua plenitude. Apontavam a Primeira Guerra Mundial – a primeira “guerra total” na história – como prova de que a sobrevivência no mundo industrial exigia o controle totalitário de todos os aspectos da política, da sociedade e da economia. Pelo lado positivo, eles também afirmavam que a Revolução Industrial era como uma fornalha na qual se fundem todas as estruturas sociais anteriores, com suas imperfeições e fraquezas humanas, e que fornece a ocasião para forjar sociedades perfeitas habitadas por uma super-humanidade pura e sem mistura.
A fim de criarem a sociedade industrial perfeita, stalinistas e nazistas aprenderam a matar industrialmente milhões de pessoas. Trens, arames farpados e ordens por telégrafo foram conectados para criar uma máquina mortífera sem precedentes.
Olhando em retrospecto, hoje a maioria das pessoas fica horrorizada com o que os stalinistas e os nazistas perpetraram, mas, na época, suas concepções audaciosas hipnotizaram milhões de pessoas. Em 1940, era fácil acreditar que Stálin e Hitler eram o modelo para controlar e obter a máxima eficiência da tecnologia industrial, ao passo que as democracias liberais vacilantes se encaminhavam para a lata de lixo da história.
A própria existência de receitas rivais para a construção de sociedades industriais levava a conflitos custosos. As duas guerras mundiais e a Guerra Fria podem ser vistas como um debate sobre a maneira adequada de avançar, em que todos os lados aprendiam uns com os outros, ao experimentar os novos métodos industriais para travar guerra. Durante esse debate, dezenas de milhões morreram, e a humanidade se aproximou perigosamente da própria aniquilação.
Coroando todas essas catástrofes, a Revolução Industrial também prejudicou o equilíbrio ecológico global, causando uma onda de extinções de espécies. No começo do século XXI, acredita-se que cerca de 58 mil espécies rumam anualmente para a extinção, e o total das populações de vertebrados diminuiu cerca de 60% entre 1970 e 2014.
A sobrevivência da civilização humana também está ameaçada. Como ainda parecemos incapazes de construir uma sociedade industrial que seja também ecologicamente sustentável, a alardeada prosperidade da geração humana atual se dá a um custo terrível para outros seres sencientes e para as gerações humanas futuras. Pode ser que venhamos a encontrar uma forma – talvez com a ajuda da IA – de criar sociedades industriais ecologicamente sustentáveis, mas, até lá, o veredito sobre a Revolução Industrial ainda não foi proferido.
Se ignorarmos por um momento os danos em curso ao ecossistema, podemos nos reconfortar com a ideia de que os seres humanos acabaram de fato aprendendo a construir sociedades industriais mais benignas. As conquistas imperiais, as guerras mundiais, os genocídios e os regimes totalitários foram experimentos deploráveis que ensinaram aos seres humanos como não proceder. Alguns podem argumentar que, no fim do século XX, a humanidade entendera mais ou menos a lição.
Mas, apesar disso, a mensagem para o século XXI é desoladora. Se a humanidade precisou de tantas lições terríveis para aprender a usar a energia a vapor e os telégrafos, qual será o preço de aprender a usar a IA?
A IA tem o potencial de ser muito mais poderosa e incontrolável do que máquinas a vapor, telégrafos e todas as tecnologias predecessoras, porque é a primeira tecnologia na história capaz de tomar decisões e criar novas ideias por contra própria. A IA não é uma ferramenta – é um agente. Metralhadoras e bombas atômicas substituíram músculos humanos ao matar, mas são incapazes de substituir cérebros humanos ao decidir quem matar.
Little Boy – a bomba lançada em Hiroshima – explodiu com uma força de 12.500 toneladas de TNT, mas, em termos de capacidade intelectual, não valia nada. Não decidia coisa alguma.
Com a IA, é diferente. Em termos de inteligência, a IA supera não só as bombas atômicas, mas todas as tecnologias da informação anteriores, como tábuas de argila, máquinas de impressão e aparelhos de rádio. As tábuas de argila armazenavam informações sobre impostos, mas eram incapazes de decidir por conta própria o valor a ser pago, ou de inventar um tributo.
Máquinas de impressão copiavam informações como a Bíblia, mas eram incapazes de decidir que textos incluir na Bíblia, ou de escrever novos comentários a respeito do livro sagrado. Os aparelhos de rádio disseminavam informações, como discursos políticos e sinfonias, mas eram incapazes de decidir que discursos ou sinfonias transmitir, ou de redigir e compor. A IA é capaz de fazer tudo isso, até de inventar novas armas de destruição em massa – sejam bombas nucleares superpotentes, sejam pandemias superletais.
Enquanto as máquinas de impressão e os aparelhos de rádio eram ferramentas passivas em mãos humanas, a IA já está se tornando um agente que pode escapar de nosso controle e de nossa compreensão, e que é capaz de tomar iniciativas para moldar a sociedade, a cultura e a história.
É possível que encontremos um jeito de manter a IA sob controle e de empregá-la em benefício da humanidade. Mas precisamos passar por outro ciclo de impérios globais, regimes totalitários e guerras mundiais para entender como usá-la para o bem? Como as tecnologias do século XXI são muito mais poderosas – e, potencialmente, mais destrutivas – do que as do século XX, nossa margem de erro é menor. Podemos dizer que, no século XX, a humanidade passou raspando na prova sobre o uso da tecnologia industrial.
No século XXI, a nota mínima para passar é bem mais alta. Desta vez precisamos nos sair melhor.
