Quando a máquina se tornar mais inteligente que o homem, não haverá mais como retroceder. Para entrar nesta nova era, e estabelecer seus limites éticos, vale recorrer a reflexões antigas.
Ao longo da história, filósofos e pensadores se valeram do mito de Giges para tratar exatamente desse tema: os limites éticos dos meios. Platão, em A República, narra essa história.
Giges, um pastor, serve o soberano da Lídia. Segundo a narrativa, um terremoto fendeu o chão. Giges, que pastoreava o rebanho, encontrou esse buraco e por ele desceu. Para seu espanto, encontrou, enterrado, um grande cavalo de bronze. Dentro dele, um homem, nu, morto, com um anel de ouro na mão.
Giges colocou o anel no dedo e voltou à superfície. Naquele mesmo dia, mais tarde, compareceu a uma reunião com outros pastores, que também prestavam conta ao rei da Lídia. Giges percebeu que, quando girava o anel em seu dedo, tornava-se invisível. Ao girar de novo o anel, tornava a aparecer. Com esse poder, Giges convence seus colegas de que poderia, como representante do grupo, ir ao rei para fazer reivindicações. Ao chegar ao palácio, valendo-se do fantástico trunfo, Giges consegue seduzir a rainha e matar o rei.
Platão pergunta qual seria a diferença do uso desse anel por uma pessoa justa e outra injusta. Reflete sobre quem teria força para resistir ao uso do poder. Se ninguém ficar sabendo quem fez o mal, pois o anel garante a invisibilidade, quem não deixaria de fazer qualquer coisa para alcançar seus desejos?
No caso de Giges, os meios de que ele se valeu para atingir seus objetivos não se justificam. Essa fábula funciona como alerta de como o poder pode transformar as pessoas.
Outro mito comumente citado quando se pensa no uso dos meios indevidos é a história do pacto de Fausto com o diabo.
No começo do século XVI, um certo Georg Faust viveu no que hoje é a Alemanha. Não deixou nada escrito, mas ganhou fama de alquimista e curandeiro. Não se fixou em uma cidade. Perambulava pelas vilas apresentando truques mágicos e ganhando trocados por seus aconselhamentos médicos. Com frequência era enxotado pelas autoridades, notadamente os representantes da Igreja, que o viam com suspeitas. Morreu, segundo registros, em 1540.
O mundo teria esquecido desse andarilho não fosse a circulação, a partir de 1587, de uma coleção de livros populares – Volksbücher –, cujo primeiro exemplar se intitulava História de Dr. Johann Fausten. A edição foi um sucesso.
Na obra, o protagonista, Fausto, invoca o demônio para atingir seus objetivos de médico, celebrando com ele um pacto pelo prazo de 24 anos. Recebe tudo o que quer do diabo nesse período, mas ao fim, a ele terá que entregar sua alma.
Assinado o acordo, Fausto realiza grandes feitos. Visita líderes mundiais e viaja por toda a Europa. Chega a se encontrar com Helena de Tróia, a mais bela mulher de toda a história, com quem, inclusive, tem um filho.
Quando se aproxima o fim do prazo, Fausto é tomado por pavor e arrependimento. A alguns jovens, lamentando sua decisão de negociar com o demônio, Fausto registra que morrerá, ao mesmo tempo, como bom e mau cristão. Bom porque se arrependeu, e mau na medida em que o capeta o possuirá.
Goethe escreveu sua versão de Fausto. Lançou a primeira parte em 1808 e a segunda em 1832. Para Goethe, a história começa com uma aposta entre Deus e Mefistófeles, o diabo, assemelhando-se ao relato bíblico de Jó.
Enquanto Deus se gaba do homem como sua extraordinária criação, o diabo afirma que os humanos são todos suscetíveis à corrupção. Deus apresenta Fausto como exemplo de retidão. O diabo, então, aposta que conseguirá pervertê-lo moralmente.
O personagem de Goethe é Henrique Fausto, um homem de certa idade e dedicado estudioso com formação em filosofia, direito, teologia e medicina. Apesar de seu talento e dedicação, Fausto vive frustrado, pois não consegue compreender os grandes mistérios da humanidade. Além disso, Fausto não desfrutou do amor, não ganhou dinheiro nem detém poder. Seu principal desejo, contudo, é adquirir conhecimento.
Inicialmente, Mefistófeles se aproxima de Fausto disfarçado de cachorro – uma forma sorrateira de se acercar. O diabo lhe oferece um pacto: “Obrigo-me a servir-te cá na terra, / A teu menor aceno obedecendo, / Se, quando no outro mundo nos toparmos, / O mesmo me fizeres.”
Basicamente, promete dar as maravilhas da vida mundana em troca da alma de Fausto. Aceito o trato, uma das primeiras medidas de Fausto é rejuvenescer, ganhando aparência bela e atraente.
Fausto se interessa amorosamente pela jovem e ingênua Margarida — Gretchen, no original alemão. Para se deitar com a moça, Fausto solicita a ajuda de Mefistófeles. A partir daí uma série de desgraças se sucedem, como a morte da mãe e a do irmão de Margarida. Morrem também ela própria, enlouquecida, e a criança, filha que concebeu com Fausto.
Fausto se arrepende, tenta culpar o demônio pelos infortúnios, mas Mefistófeles registra que tudo aconteceu por conta de escolhas feitas pelo próprio Fausto. Ele, o diabo, serviu apenas como instrumento.
A inteligência artificial é o anel de Giges. É também Mefistófeles.
Ela provê um poder brutal, desprovido de esteios morais. A inteligência artificial permite que se alcancem metas antes inimagináveis. Passa-se a dominar as imagens e as informações. Tudo rápido e sem maiores considerações.
A discussão sobre o uso da inteligência artificial não está no avanço ou sofisticação da tecnologia. Ele se centra na humanidade. O tema precisa fundar-se essencialmente na ética. Cabe a nós, enquanto ainda comandamos às máquinas, garantir que as escolhas certas sejam feitas, evitando o uso indevido desse instrumento potente, que pode transformar a vida em aparência e ilusão. São decisões e reflexões importantes, que devem ser feitas agora, já.
Sem essa consciência seremos, num futuro terrível, escravos dos computadores, e ao reclamar de nossa condição servil, ouviremos o mesmo que o diabo disse a Fausto: a inteligência artificial foi “apenas” instrumento de nossas próprias escolhas.
José Roberto de Castro Neves é Membro da Academia Brasileira de Letras.
