Imagine se tivéssemos que empregar toda a nossa capacidade analítica de raciocínio para executar tarefas tão corriqueiras e banais como abrir a porta de casa ou responder quanto é a soma de 2 + 2.

É mais ou menos isso que fazem hoje os LLMs que trabalham por trás do ChatGPT, do Claude e do Gemini – gastando muita energia e capacidade computacional para, não raro, executar operações simples.

Agora, uma startup de São Francisco que tem um ex-engenheiro da OpenAI entre seus fundadores desenvolveu um novo modelo de AI que entrega resultados de maneira muito mais eficiente para executar tarefas específicas – e que, além de ser bem mais rápido e barato, promete ser hallucination free.

A TypeSafe AI acaba de colocar no mercado o Jev, um modelo que, em vez de responder aos prompts com textos em linguagem natural, entrega resultados na forma de probabilidades – ou, como a startup prefere chamar, “decisões calibradas.”

O sistema vem atraindo especialmente o interesse de desenvolvedores porque traz a perspectiva de automação de fluxos de trabalho a um custo menor e com resultados mais satisfatórios.

De acordo com o TechCrunch, a Vercel, uma companhia que trabalha na criação de infraestrutura para agentes de AI, substituiu o ChatGPT Luna 5.6 – o modelo mais barato hoje oferecido pela OpenAI – para executar comandos de segurança pelo Jev e obteve resultados até 18 vezes mais rápidos e mais precisos.

Uma das diferenças é que os LLMs mais populares foram programados para falar como humanos e para humanos – e por isso costumam não ser tão certeiros e ágeis para conversar diretamente com softwares, disse Diogo Almeida, um ex-engenheiro da OpenAI que fundou a TypeSafe depois de trabalhar no desenvolvimento do ChatGPT.

“Levei algum tempo para chegar à conclusão de que o problema é que estávamos otimizando os modelos para a linguagem humana,” Almeida disse ao TechCrunch. “Somos muito bons em linguagem humana, mas isso não serve para a automação, porque os computadores falam uma linguagem diferente.”

O nome Jev é uma referência ao economista William Stanley Jevons, que no século XIX descreveu o aparente paradoxo segundo o qual o aumento da eficiência tecnológica torna ainda mais intenso o uso de uma máquina ou equipamento.

Em uma outra referência ao mundo da psicologia, a TypeSafe chamou o seu primeiro modelo de System One.

Como explicou o Nobel de Economia Daniel Kahneman no bestseller Rápido e Devagar, o sistema 1 de nosso cérebro é responsável pelo pensamento rápido e intuitivo, enquanto o sistema 2 processa as informações de maneira mais lenta e análitica, requerendo mais esforço e energia – de maneira similar aos LLMs.

“Desenvolvemos uma nova stack totalmente voltada para a automação e um método de treinamento que chamamos de Reinforcement Learning for Calibrated Decisions (RLCD),” Almeida disse no blog da empresa.

Segundo a empresa, o custo dos inputs dos LLMs fica entre US$ 0,20 e US$ 10 por milhão de tokens, enquanto com o Jev o preço é de US$ 42 por bilhão de tokens – 200 vezes mais barato.

Com relação à velocidade de resposta, os LLMs entregam resultados medidos em segundos e eventualmente em alguns minutos – ótimo para a interação com pessoas, mas muitas vezes um gargalo em trabalhos de programação. O System One responde às mesmas questões específicas em milissegundos, chegando a ser 200 vezes mais rápido do que os LLMs mais avançados.

Segundo a Forbes, em vez de gerar parágrafos de texto, o modelo da TypeSafe fornece respostas numéricas acompanhadas de estimativas de probabilidade e pontuações que indicam o nível de confiança em cada métrica.

As empresas conseguem identificar quais resultados são confiáveis ​​e quais exigem supervisão humana. Se um resultado alcançar um determinado limite de confiança, o processo pode ser totalmente automatizado.

Não espere do Jev a ‘criatividade’ nem a alucinação dos chatbots mais populares do mercado. Isso porque o sistema da TypeSafe trabalha a partir das informações e dos dados apresentados a ele. Não sai à caça de novas informações pela internet.

“Se a AI vai mudar a forma como o trabalho é realizado, as pessoas não podem ser as únicas consumidoras de inteligência. A maior parte da inteligência deve residir dentro de softwares, operando silenciosamente em segundo plano”, Almeida disse à Forbes.

Fundada há três anos, a TypeSafe captou US$ 40 milhões em uma rodada seed liderada pelo VC de deep tech DCVC, quando foi avaliada em US$ 200 milhões.