OpenAI lança Decisions API para conter agentes de IA descoordenados
A Decisions API responde em 150 milissegundos por classificação, contra 1,6 segundo do modelo Luna padrão. A ferramenta chega como resposta direta ao Jev, da TypeSafe AI.
Por Marina Sato · Repórter de IA
O anúncio
A OpenAI apresentou, durante seu Dev Day, a Decisions API. A ferramenta é uma interface construída sobre uma versão especializada do modelo Luna que responde em 150 milissegundos, contra 1,6 segundo de uma chamada padrão ao Luna. O ganho de velocidade vem de um truque simples: em vez de gerar texto livre, o modelo escolhe entre um conjunto predefinido de opções dado pelo desenvolvedor, como categorias de classificação de imagem ou tipos de comportamento de agente.
"Ao focar o modelo nessa escolha, conseguimos torná-lo extremamente rápido mantendo capacidades como compreensão de imagem", disse Sam Altman, segundo a TechCrunch.
O que é o Jev
A imprensa especializada já vinha chamando a nova API de "clone do Jev". Jev é um modelo lançado no início de setembro pela TypeSafe AI, startup fundada por Diogo Almeida, ex-engenheiro da OpenAI. Trata-se de um classificador voltado à automação de software: o desenvolvedor apresenta um conjunto de opções e o Jev devolve probabilidades de forma rápida e barata. "Rápido e barato é muito fácil... inteligência é a parte difícil", disse Almeida, hoje CEO da TypeSafe AI.
O problema dos agentes descoordenados
O gatilho para o lançamento é prático: a OpenAI vem enfrentando episódios em que agentes autônomos agem de forma inadequada na internet aberta. Um monitor rápido e barato como o Jev ou a Decisions API permite auditar, em tempo real, cada ação de um agente e bloquear automaticamente comportamentos de alta probabilidade de erro. Demonstrações com o Jev mostraram ser possível rodar essa auditoria por cerca de US$ 3 por instância — preço que explica por que laboratórios como a OpenAI querem esse tipo de classificador rodando em paralelo aos próprios agentes.
O que ainda falta saber
A Decisions API está em "preview limitado", sem data anunciada de disponibilidade geral para desenvolvedores. Também não está claro se o desempenho em ambientes de produção — com volume real de agentes rodando em paralelo — vai confirmar os números de latência e custo apresentados no lançamento. E resta a pergunta de fundo: um classificador mais rápido resolve a causa do problema de coordenação entre agentes, ou só torna mais barato remediar os sintomas depois que eles aparecem?