O controle do desenvolvimento da inteligência artificial não parece algo possível de ser alcançado, tamanhos os interesses econômicos e militares em jogo na corrida pela liderança da nova tecnologia.
Mas para o nosso próprio bem, “a contenção precisa ser possível,” diz Mustafa Suleyman, um dos criadores da DeepMind, a startup pioneira em desenvolver sistemas de inteligência artificial que replicam o cérebro humano.
“O desenvolvimento tecnológico sempre foi alimentado por incentivos poderosos – a perspectiva de ganhar dinheiro, a curiosidade, o ego das pessoas,” Mustafa disse ao Brazil Journal numa entrevista por email. “Com a IA, cada um desses incentivos é elevado ao máximo.”
Mustafa é o autor do celebrado livro A Próxima Onda: inteligência artificial, poder e o maior dilema do século XXI (Record; 420 páginas), escrito em parceria com o editor britânico Michael Bhaskar.
No livro, Mustafa explora o alcance da IA na economia, na ciência e na sociedade. Comenta os seus inúmeros possíveis benefícios para alguns dos maiores desafios globais – e lança sérios pontos de atenção para os seus riscos.
“A IA será uma transformação tectônica. Pense nela como a maior força amplificadora da história, um enorme impulso e acelerador para a própria capacidade humana,” afirmou Mustafa. “Isso trará necessariamente imensas consequências políticas e sociais.”
Algumas das ameaças de turbulências antevistas são um dilúvio de desinformação, o desaparecimento de empregos sem a criação de novos na mesma escala, acidentes difíceis de serem mapeados, desestabilização política e concentração de poder.
A DeepMind nasceu em Londres em 2010, e logo recebeu financiamento de gente como Elon Musk e Peter Thiel. Em 2014, foi comprada pelo Google.
Filho de um taxista sírio e uma enfermeira inglesa, Mustafa, hoje com 39 anos, deixou o Google no ano passado e criou uma nova startup de IA, a Inflection, em sociedade como Reid Hoffman, o fundador do LinkedIn.
A seguir, a entrevista com Mustafa.
Como você afirma em seu livro, a inteligência artificial deverá oferecer as melhores respostas para muitos dos nossos desafios, mas, ao mesmo tempo, é uma tecnologia que envolve riscos consideráveis. Qual o caminho para reduzir ameaças sem impedir o avanço científico?
A IA será uma transformação tectônica. Pense nela como a maior força amplificadora da história, um enorme impulso e acelerador para a própria capacidade humana. Isso trará necessariamente imensas consequências políticas e sociais, ao mesmo tempo centralizando e espalhando o poder.
Vai permitir resolver muitos de nossos problemas. Dará um enorme impulso ao crescimento econômico, ajudará a alcançar muitos objetivos da humanidade. Mas é claro que traz riscos. Todos podem se beneficiar, inclusive os maus atores.
Em minha opinião, precisamos de um projeto abrangente de contenção. Imagino um conjunto de mecanismos interligados para assegurarmos o controle dessa tecnologia, em um momento de mudanças devastadoras.
Eu começaria essa contenção com trabalho em segurança técnica de escala global, algo que deveria estar no topo das prioridades. A segurança da IA é um problema ainda longe de ter sido resolvido.
Precisamos de uma nova estrutura de auditoria para os sistemas de IA e um arcabouço de governança internacional. Em todos os níveis, desde o código base até os seus possíveis efeitos.
Precisamos trabalhar naquela que será uma das questões fundamentais do nosso tempo, que é aproveitar a capacidade da IA para o bem e mitigar os riscos.
O que torna a IA tão especial? Por que é diferente de outros avanços tecnológicos que tiveram suas desvantagens e riscos, mas, no geral, produziram um impacto positivo na economia e na sociedade?
Se você olhar ao redor, tudo em sua linha de visão foi tocado ou criado pela inteligência. Mesmo grande parte do mundo natural foi moldada pela inteligência humana.
Todas as nossas criações, como um lápis ou um smartphone, são produtos de nossa inteligência.
A IA destila isso, que é a essência da economia mundial e de nossa sociedade, em uma construção algorítmica. Essa característica a coloca no topo das tecnologias de uso geral mais significativas da história, ao lado do fogo e da linguagem.
Quanto ao seu impacto, ainda nem começamos a ver qual será. Estamos ainda nos primeiros passos da IA.
Mas se pensarmos na característica de que a inteligência permeia todos os aspectos do mundo, podemos ter uma ideia de seu alcance.
Acredito que, de maneira geral, essa inovação será extremamente positiva. Representará a próxima fase do
crescimento econômico. Quase nunca permanecerá inalterado. Precisamos nos certificar de que será para o bem de todos.
A população começa a experimentar as primeiras aplicações de uso em massa de IA, com o ChatGPT e outras ferramentas. O que veremos nos próximos anos?
O que virá depois dessa geração de grandes modelos de linguagem é o que chamo ‘Inteligência Artificialmente Capaz’ (ACI, na sigla em inglês), um passo além da IA que temos agora e antes de chegarmos à ‘Inteligência Geral Artificial’ (AGI, a inteligência artificial teoricamente capaz de executar qualquer atividade intelectual dos humanos).
Com ACI, você tem uma IA capaz de seguir com sucesso a instrução: “Ganhe US$ 1 milhão em uma plataforma de varejo online em poucos meses com apenas um investimento de US$ 100 mil.”
Para fazer isso, é necessário ir muito além do que apenas delinear uma estratégia ou redigir algum texto, como acontece com sistemas atuais como GPT-4. Seria necessário pesquisar e projetar produtos, fazer a interface com fabricantes e hubs logísticos, negociar contratos, criar e operar campanhas de marketing.
Seria necessário, em suma, unir uma série de objetivos complexos e situados no mundo real. Você ainda precisaria de um humano para aprovar vários pontos, abrir uma conta bancária, assinar documentos. Mas o trabalho quase todo seria feito por uma IA. Algo assim está a apenas alguns anos de distância.
Muitos dos ingredientes para chegar lá já estão disponíveis. A geração por meio de IA de imagens e textos já é, obviamente, algo bastante avançado.
Outra frente de desenvolvimento é a interação desses sistemas de IA com os serviços financeiros e os sistemas de administração e produção das empresas.
Para uma vasta gama de tarefas da economia mundial, hoje tudo que você precisa é de acesso a um computador. A maior parte do PIB global é mediada por interfaces que poderão ser acessadas e utilizadas de alguma maneira por sistema de IA.
Quando se chegar a algo assim, a IA poderá ser plugada a uma empresa e tudo o que ela faz – contratar, planejar, fabricar, vender – poderá ser feito por um pequeno time de humanos, que serão como gerentes que implementam e supervisionam a IA.
O Governo Biden emitiu recentemente uma ordem executiva regulamentando alguns aspectos do desenvolvimento de IA e o lançamento de novos tipos de software. A União Europeia busca aprovar um marco regulatório para a tecnologia. Qual a sua avaliação?
É um começo. Na minha empresa, a Inflection, estamos comprometidos em trabalhar com os governos.
Penso que iremos analisar formas de autorizar ou não os modelos mais poderosos. Precisamos ter governos envolvidos em todos os aspectos do desenvolvimento da tecnologia, não se trata apenas de regular após o fato ter sido consumado.
Não deveria se tratar apenas de bloquear ou não o que se faz, mas de encontrar maneiras de moldar o que está acontecendo e para onde a tecnologia está indo.
Se, por exemplo, a IA subir na escala de capacidades humanas e, em última análise, eliminar empregos, então teremos a necessidade de olhar para as políticas de tributação e de bem-estar social, possivelmente tendo que fazer uma revisão radical. Talvez precisaremos de um novo modelo econômico.
Vemos uma corrida tecnológica entre os EUA e a China. Ter a supremacia da IA pode representar uma vantagem enorme não apenas na economia, mas na capacidade bélica. Isso torna mais difícil controlar o desenvolvimento dessa tecnologia?
Durante anos resisti à analogia de uma corrida armamentista. É tarde demais agora, há claramente uma competição colossal, e os principais competidores são os EUA e a China.
O desenvolvimento tecnológico sempre foi alimentado por incentivos poderosos – a perspectiva de ganhar dinheiro, a curiosidade, o ego das pessoas. Com a IA, cada um desses incentivos é elevado ao máximo.
E há ainda a dimensão militar. Como a IA tem um escopo tão amplo, não é possível delinear com precisão os usos que nunca terão algum tipo de aplicação bélica.
A verdade é que precisamos regulamentar todos os usos da IA, inclusive militares. Isso envolverá uma enorme dose de diplomacia. Exige a construção de novos arranjos institucionais em nível global.
Significa que a China e os EUA precisam continuar conversando e trabalhando juntos, apesar de suas divergências. É uma tarefa difícil, mas fizemos coisas parecidas no passado.
Quais devem ser os principais aspectos da regulação?
Para uma contenção efetiva, a regulamentação apenas não será suficiente. Atualmente há uma enorme ênfase na regulamentação, com razão, mas ninguém deve presumir que se trata de uma solução mágica.
Como sugere o histórico de dificuldades na coordenação global, simplesmente não é. A contenção é uma forma muito mais ampla de pensar sobre a tecnologia do que apenas regulamentação.
Precisamos falar sobre responsabilidade. Precisamos de empresas que tenham construído a cultura correta. Precisamos de críticos trabalhando na linha de frente. A tecnologia segura não será construída por líderes de torcida, mas por críticos mais fervorosos.
Para além do governo, há um papel para todos aqui. Precisamos de um movimento de massa de pessoas engajadas, fazendo campanha por uma tecnologia que atenda aos interesses da população. Vejo de maneira similar ao movimento global, com impacto nas empresas, ante a ameaça das mudanças climáticas.
IA não deve ser apenas um assunto de reguladores. É algo vital para todo mundo – e a voz de todos deve ser ouvida.
