Há muito tempo imaginamos o que aconteceria se criássemos seres ou artefatos dotados de capacidades que considerávamos especificamente humanas.
A mitologia grega já imaginava seres fabricados para cumprir tarefas. Depois vieram o Golem da tradição judaica, Frankenstein, os robôs de Asimov, o HAL de 2001: Uma Odisseia no Espaço e os replicantes de Blade Runner. São histórias muito diferentes, mas todas tratam, de alguma maneira, das consequências de delegar às nossas criações algo que considerávamos unicamente humano.
A inteligência artificial transformou essa antiga inquietação em um problema concreto. Para alguns, estamos construindo uma tecnologia capaz de ampliar radicalmente a prosperidade, acelerar descobertas científicas e ajudar a resolver problemas até agora intratáveis. Para outros, sistemas cada vez mais poderosos podem produzir riscos que vão da desorganização econômica e política à própria sobrevivência humana.
Apesar de partirem de expectativas opostas, essas posições compartilham uma preocupação central: o que essas máquinas serão capazes de fazer. Há, porém, uma questão anterior que recebe menos atenção. À medida que confiamos às máquinas tarefas cada vez mais complexas e decisões, surge uma pergunta ainda sem resposta: julgamento é algo que pode ser delegado?
Nenhum personagem tornou essa pergunta tão nítida quanto o Data.
Entre 1987 e 1994, a série Star Trek: The Next Generation acompanhou as viagens da nave estelar Enterprise e de sua tripulação por um futuro situado no século XXIV. Entre seus personagens principais estava o Data, um androide dotado de capacidades intelectuais extraordinárias. O Data conversava, aprendia, tomava decisões e exercia funções de grande responsabilidade como oficial da Enterprise.
Mas o Data tinha uma limitação fundamental: não sentia.
Grande parte da trajetória do personagem nasce dessa aparente contradição. Uma inteligência superior à humana em muitas dimensões passava boa parte de seu tempo tentando compreender coisas elementares para seus companheiros: humor, amizade, amor, medo, tristeza, constrangimento.
O Data podia estudar essas emoções, descrevê-las e reconhecer suas manifestações nos outros. Mas não podia experimentá-las. Sabia o que era o luto, mas não sofria. Conhecia o medo mas não tinha medo. Podia estudar o amor sem amar.
Quando The Next Generation foi criada, o Data era ao mesmo tempo um personagem de ficção científica e um experimento mental: o que faltaria a uma máquina que possuísse inteligência extraordinária mas não compartilhasse a experiência humana? Quase 40 anos depois, a pergunta perdeu parte de seu caráter ficcional.
Os sistemas de inteligência artificial que utilizamos hoje são diferentes do Data, mas se parecem com ele num ponto: conseguem conversar sobre sentimentos, aconselhar alguém diante de um dilema e produzir palavras de consolo sem que exista qualquer evidência de que sintam aquilo sobre o que falam.
Mas a questão mais importante não é saber se uma máquina pode sentir. É perguntar se a ausência de sentimentos importa para aquilo que esperamos dela.
Para calcular uma trajetória, traduzir um texto ou identificar uma proteína, provavelmente não. A questão se torna diferente quando passamos do processamento para o julgamento. Diante de uma situação complexa, reunimos informações, avaliamos alternativas, estimamos consequências e decidimos. Se fosse apenas isso, não haveria razão para as máquinas não poderem progressivamente fazer tudo isso melhor do que nós.
Mas o julgamento não é apenas isso. Há uma diferença entre saber como tomar uma decisão e saber se devemos tomá-la. A segunda exige também estabelecer quais consequências importam e que peso devem ter diante de outras considerações.
É aí que os sentimentos entram. Eles são frequentemente tratados como perturbações da razão, e de fato podem sê-lo. O medo pode nos tornar excessivamente avessos ao risco; a raiva, alterar nossa avaliação das pessoas. Uma inteligência que não experimentasse essas emoções poderia, sob vários aspectos, decidir melhor do que nós. A dificuldade é que, no julgamento humano, os sentimentos que podem prejudicá-lo também fazem parte do modo como atribuímos importância às consequências.
Julgar não consiste apenas em prever o que acontecerá. Consiste também em atribuir peso, ou importância, ao que poderá acontecer. Por exemplo, duas pessoas podem concordar inteiramente sobre os fatos, sobre as probabilidades e até sobre os efeitos previsíveis de uma decisão e ainda assim discordar radicalmente sobre o que deve ser feito. É nesse desacordo que os sentimentos têm uma função que não pode ser reduzida a uma interferência no raciocínio.
A compaixão faz com que o sofrimento de outra pessoa adquira peso. O apego faz com que perder alguém não seja apenas reconhecer sua ausência, mas sofrer com ela. Essas emoções não nos dizem necessariamente o que devemos fazer. Mas participam da maneira pela qual algumas coisas passam a importar para nós. Só tem medo quem pode perder. Só tem esperança quem pode ganhar.
Isso não significa que sentimentos garantam bons julgamentos. Tampouco significa que uma pessoa que sofreu compreenda necessariamente melhor os efeitos de uma decisão do que alguém que não sofreu. Experiência não confere sabedoria automaticamente.
Uma inteligência artificial pode conhecer tudo o que já se escreveu sobre a morte sem que ela a ameace.
Nada disso demonstra que seja incapaz de produzir uma boa decisão. Seria fácil demais concluir que somente quem sofreu pode compreender o sofrimento. Grande parte da civilização depende precisamente da possibilidade contrária: conseguimos aprender com experiências que não tivemos e reconhecer como importantes interesses que não são os nossos.
A inteligência artificial amplia radicalmente essa possibilidade. Pode ser treinada sobre uma parcela imensa do registro produzido pela experiência humana. Pode aprender como descrevemos sofrimento, quais decisões lamentamos, que conflitos morais enfrentamos e quais princípios construímos para resolvê-los. Em certo sentido, poderá conhecer a experiência humana em uma extensão inacessível a qualquer indivíduo. A pergunta difícil é esta: representar com precisão o que tem valor para alguém equivale, para fins de julgamento, a ser alguém para quem algo tem valor?
O problema do Data nunca foi falta de inteligência.
O personagem servia para mostrar que não sentir pode ser uma vantagem numa situação e uma limitação em outra.
Podemos formular a mesma questão para sistemas cada vez melhores em tarefas nas quais existe uma resposta certa a encontrar: identificar um tumor numa imagem, prever a demanda de um produto, achar a demonstração de um teorema. Mas as mesmas áreas estão cheias de decisões de outra natureza. Identificar um tumor é uma coisa. Decidir se um paciente de oitenta anos deve enfrentar um tratamento que pode prolongar sua vida, mas comprometer profundamente a qualidade dela, é outra. Nelas é preciso pesar quais perdas são aceitáveis e quem deve suportá-las.
Uma máquina pode estimar consequências e reproduzir, com enorme sofisticação, os critérios pelos quais costumamos avaliá-las. Para determinados tipos de decisão, isso basta. Mas há uma diferença adicional. O ser humano que julga, mesmo quando não viveu aquela experiência específica, pode ser atingido, para o bem ou para o mal, por consequências do mesmo tipo das que suas decisões produzem. Pode adoecer, perder alguém, ser humilhado, envelhecer, depender de outros e morrer. Pode também se curar, amar, ver um filho crescer. Não compartilha todas as experiências, mas pertence a um mundo no qual elas podem acontecer também com ele.
Uma inteligência artificial não.
Um juiz que fixa uma pena de vinte anos sabe o que são vinte anos: um quarto da única vida que ele também tem. Um sistema pode saber tudo sobre vinte anos de prisão. Não corre o risco de perdê-los.
A distinção relevante não está, portanto, entre ter ou não vivido cada experiência. Está entre poder ou não sofrer perdas da mesma natureza das que uma decisão produz, e por isso sentir o seu peso. Não se trata da emoção do momento, mas de uma disposição permanente: a de quem tem algo a perder.
O peso, aqui, nasce dessa condição, mesmo quando quem decide não sofre as consequências daquela decisão específica. Uma coisa é conhecer aquilo que importa para alguém. Outra é ser alguém para quem algo pode importar. Em Sentir e saber, o neurocientista Antônio Damásio descreve a história da vida em três fases sucessivas: ser, sentir e saber. O sentimento nasce da condição de um corpo vulnerável, que precisa se manter vivo. Para que uma máquina sentisse, diz ele, seria preciso dar-lhe um pouco de vulnerabilidade. As máquinas que construímos começam pelo fim: sabem.
O peso não é uma propriedade dos fatos. Em nós, quanto algo importa não se deduz apenas: sente-se. Uma máquina pode reproduzir com enorme precisão a importância que atribuímos às coisas, mas o que reproduz é, até onde sabemos, uma importância que lhe é alheia. Resta saber se julgar com uma importância que não lhe pertence ainda é julgar, e se podemos confiar em quem decide sem ter nada em jogo. Quem responde pelo que decide tem algo a perder, e sente o peso disso.
O Data compreendia, até certo ponto, a importância do que decidia. O que lhe faltava era senti-la. Não por acaso, a ficção que imagina seres artificiais capazes de sentir costuma imaginá-los também vulneráveis, como a Klara de Ishiguro, descartada quando deixa de servir, os robôs do musical coreano Maybe Happy Ending ou os replicantes de Blade Runner, feitos para durar quatro anos.
Sistemas artificiais já participam de decisões sobre penas, tratamentos, oportunidades e prioridades. Quanto melhor decidirem, mais difícil será justificar que certas decisões devam permanecer humanas apenas com o argumento de que decidimos melhor. A questão passa a ser o que mais precisamos exigir de quem decide.
Daí o incômodo: as máquinas decidem, mas não há evidência de que sintam o peso que atribuem ao que está em jogo. Isso não quer dizer que os humanos decidam melhor: quem pode sofrer as consequências pode decidir pior justamente porque tem medo delas.
Enquanto o debate entre otimistas e pessimistas se concentra no que as máquinas serão capazes de fazer, a pergunta sobre a delegação do julgamento exige compreender o que lhes falta.
O que faltava ao Data era sentir o peso das consequências do que decidia. É isso que, até onde sabemos, continua faltando às máquinas que construímos, por melhor que decidam. Essa diferença, por si só, não nos diz quais decisões não podemos delegar, mas sugere onde procurar. A fronteira passa, provavelmente, entre dois tipos de decisão.
Num deles, o acerto pode ser verificado, como na identificação de um tumor. No outro, é preciso definir quais perdas são aceitáveis e quem deve suportá-las, como na escolha de um tratamento agressivo para um paciente de oitenta anos.
A pergunta que o debate sobre inteligência artificial ainda precisa fazer é em quais decisões é indispensável que quem decide possa também sentir o peso das perdas que impõe aos outros.
Daniel Luiz Gleizer é doutor em economia pela Universidade da Califórnia em Berkeley, ex-diretor do Banco Central e sócio-fundador do CDPP (Centro de Debate de Políticas Públicas).
