Em 1968, chegava aos cinemas 2001 – Uma Odisseia no Espaço. Um sucesso retumbante, o filme de Stanley Kubrick narra a história da espaçonave Discovery One, que seguia rumo a Júpiter e cuja condução ficou a cargo de um computador “infalível”, denominado HAL (segundo alguns, uma referência à IBM, a grande multinacional tecnológica da época – H, A e L são, no alfabeto, exatamente as letras anteriores a I, B e M).
HAL recebeu a missão de levar a Discovery One a Júpiter – mas quando percebe que os tripulantes podem colocar seu objetivo em risco, a máquina passa a eliminar os humanos.
No espaço, o homem enfrenta a inteligência artificial e, mais especificamente, luta contra a ausência de hierarquia valorativa nas regras seguidas pelo computador. Perturbador, o filme serve como um amargo presságio.
Em 1968, no entanto, aquilo era mera ficção científica. Na época, computadores serviam só para “fazer conta,” e estavam distantes do dia a dia do homem comum.
Passados quase 60 anos, a “ficção científica” se tornou “realidade científica”. A virada ocorreu recentemente, quando a máquina passou a dominar a linguagem.
O israelense Yuval Noah Harari tornou-se uma celebridade literária internacional com Sapiens – uma breve história da humanidade. O livro foi publicado em Israel em 2011 e, dado o sucesso estrondoso, foi traduzido para o inglês três anos depois. Dali em diante, ganhou o mundo.
Antes de alcançar o estrelato, Harari já havia publicado obras relacionadas à Idade Média, a cujo estudo se dedicou. Depois de Sapiens, produziu ainda Homo Deus – Uma breve história do amanhã, e 21 Lições para o século 21. Mais recentemente, lançou Nexus – Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial – no Brasil, sempre pela Companhia das Letras (compre aqui).
Nexus começa com um alerta de Harari: nunca conjure poderes que você não consiga controlar.
Ao criar uma inteligência artificial capaz de seduzir e (na prática) dominar seres humanos, o homem criou uma força colossal – forte o suficiente para determinar o resultado de eleições – e dona de uma velocidade inatingível aos mortais.
Há poucos anos, a inteligência artificial adquiriu o domínio da linguagem. A partir daí, não há mais fronteiras para a ampla comunicação entre nós e o robô. A inteligência artificial consegue armazenar mais informações sobre nós que nem nós mesmos temos capacidade de lembrar. A partir dos dados coletados pode-se criar uma “intimidade fake”, pois a máquina, rapidamente, identifica nossas vulnerabilidades e preferências.
Os computadores nos vigiam. Sabem atiçar a dopamina, gerando a sensação de prazer que nos faz cativos dos celulares. Somos presa fácil, já que dependemos da máquina para tudo. Os telefones móveis registram nossa localização, nossos contatos, nossas preferências. Pelas redes sociais, nossos interesses são revelados. Nessa relação, não há mais segredos. A máquina logo sabe mais sobre nós do que nossos amigos mais íntimos.
Como um computador não possui empatia, ao falarmos com ele estamos apenas dando-lhe mais informações sobre nós mesmos, sem que haja qualquer troca verdadeira na relação (não conseguiremos, por exemplo, fazer com que a máquina mude de opinião, embora o contrário possa ocorrer, pois somos por ela influenciados…).
Numa curiosa passagem de Nexus, o autor “jura” que ele próprio escreveu o texto, mas reconhece que não se pode mais ter certeza absoluta sobre essa afirmação como se tinha há uma década. Os tempos andaram rápido demais.
Segundo recentes pesquisas reveladas no livro de Harari, há uma probabilidade de 10% de que o desenvolvimento da inteligência artificial chegue a consequências nefastas, tais como a extinção do Homo sapiens. Assustador, não? A profecia de Kubrick e Arthur C. Clark bateu às nossas portas.
Com razão, previne o israelense, não podemos negligenciar esse tema. Ainda que não viremos especialistas, devemos compreender a complexidade do assunto e pensar na segurança da comunidade humana.
Harari anota que, ao longo da história, os regimes totalitários se caracterizaram por controlar os meios de comunicação. Isso foi feito de formas diversas e engenhosas. A inteligência artificial é uma ferramenta infinitamente mais eficiente do que as utilizadas no passado para esse fim – capaz, inclusive, de deletar dados e criar novas realidades, sem que se possa distinguir o falso do verdadeiro.
Tudo passa a ser suspeito. O poder da inteligência artificial levado adiante por quem pretenda distorcer a realidade, ou mesmo suprimi-la, terá as piores consequências para a liberdade e a justiça. Com a verdade mutilada, mutilam-se também as pessoas de bem.
O livro de Harari apresenta a seguinte reflexão: há uma confusão comum entre inteligência e consciência (o autor já havia tratado dessa distinção em obras anteriores).
“Inteligência é a capacidade de alcançar objetivos,” ao passo que “consciência é a capacidade de ter sentimentos subjetivos como dor, prazer, amor e ódio,” define.
Ao tomar decisões, um ser humano saudável carrega consigo tanto sua inteligência como sua consciência. Uma tempera a outra.
A inteligência artificial, contudo, pode agir como um psicopata, com iniciativas que não possuem qualquer consciência mas visam a atingir um fim, tal como o robô de 2001 – Uma odisseia no espaço.
Como um possível antídoto, Harari fala em treinar os computadores a ter consciência da falibilidade. A arrogância não faz bem a ninguém, muito menos aos poderosos. O israelense propõe que nos engajemos a “construir instituições com sólidos mecanismos de autocorreção” – e diz que esta seria a “conclusão mais importante que este livro tem a oferecer”.
Uma solução seria, portanto, incutir humildade nas máquinas, fazendo-as reconhecer seus próprios exageros e erros. A ideia seria retirar do computador a certeza absoluta, dando a ele meios de reflexão.
Se Deus, segundo o Gênesis, fez o Homem à sua imagem e semelhança, o Homem criou a Inteligência Artificial seguindo o mesmo padrão. O orgulho humano, transferido para a criatura, deve ceder para o reconhecimento dos riscos da invenção.
Fundamental dotarmos sua aplicação de consciência ética e de uma escala de valores. Sócrates, um dos maiores filósofos da história, registrou sua ignorância – “Só sei que nada sei,” dizia. Na verdade, não se tratava de completa ignorância, e sim da humildade de reconhecer que há sempre mais por descobrir e aprender – e em última análise, poder mudar de opinião. Ainda que “artificial”, a nova inteligência deve ser impregnada dessa “ignorância qualificada” de que falou Sócrates há 2.500 anos.
O futuro chegou – aquele futuro que previa máquinas pensantes e manipuladoras. Temos agora que nos preparar para o novo futuro. Qual será ele? Se o “novo” futuro é incerto, há, ao menos, algo certo sobre ele: como sempre, o futuro se constrói no presente. Se o porvir se demonstrar desastroso, graças ao trabalho de Harari não será por falta de aviso.
Resta a nós pensar sobre como construir a inteligência artificial. Não há como interromper a marcha dessa evolução. A tampa se abriu.
Talvez, contudo, haja a oportunidade de estabelecer limites. Melhor ter esse cuidado desde já do que confrontá-lo quando estivermos sós, perdidos no espaço infinito, em algum lugar inatingível entre a Terra e Júpiter, a depender de uma máquina que não depende mais de nós.
Afinal, a realidade costuma ser mais dura que a ficção.
José Roberto de Castro Neves é sócio do Ferro, Castro Neves, Daltro & Gomide Advogados.
