O que é o Jev: modelo de decisão estruturada de IA da TypeSafe AI que retorna julgamentos tipados em 70 ms

O que é o Jev

O Jev é um modelo de decisão estruturada de IA lançado pela TypeSafe AI, fundado pelo ex-pesquisador da OpenAI Diogo Almeida. O Jev é baseado em Transformer, mas não é um modelo de linguagem grande; ele não gera frases, e sim retorna decisões tipadas dentro de opções predefinidas: Choice (opção), Score (pontuação) e Noul (probabilidade), acompanhadas de confiança. A latência de resposta do modelo é de aproximadamente 70–500 milissegundos, e ele é dedicado a cenários de julgamento de alta frequência em agentes, como roteamento de ferramentas, triagem de tickets e decisões em jogos.

Principais funcionalidades do Jev

• Decisão de opções Choice: escolhe o item mais adequado em uma lista de opções predefinidas (até 255 opções), retornando a opção, a distribuição de probabilidade e a confiança, adequado para roteamento e classificação.
• Pontuação Score: pontua a entrada em uma escala personalizada (por exemplo, níveis de 1 a 5), retornando a pontuação, a probabilidade e a confiança, para medir urgência, qualidade ou nível de risco.
• Julgamento binário Noul: atribui um valor de probabilidade entre 0 e 1 para "esta afirmação é verdadeira?", adequado para julgamentos binários como a necessidade de encaminhar a um humano ou de tomar uma ação.
• Múltiplas perguntas em paralelo: uma única chamada de API pode combinar várias perguntas ao mesmo tempo, compartilhando a mesma entrada e avaliando-as em paralelo de forma independente; adicionar perguntas quase não aumenta a latência nem gera degradação de contexto.
• Saída de confiança: Choice e Score vêm com uma pontuação de confiança calibrada, com a qual o código pode fazer derivações — execução automática com alta confiança, escalonamento para um modelo grande ou para um humano com baixa confiança.
• Saída tipada sem alucinações: retorna estritamente dentro das opções e tipos predefinidos pelo usuário, sem necessidade de parsing de JSON, eliminando erros de formato e respostas fora do escopo.
• Latência ultrabaixa: resposta de ponta a ponta de aproximadamente 70–500 milissegundos, de 20 a 200 vezes mais rápida que modelos de linguagem grandes similares, com suporte a ciclos de decisão de alta frequência de cerca de 10 por segundo.

As três formas de saída do Jev

• Choice (decisão de opções): escolhe o item mais adequado em uma lista de opções predefinida pelo usuário (até 255 opções), retornando a opção escolhida, a distribuição de probabilidade de cada opção e a confiança, adequado para cenários de "escolher um entre vários", como roteamento, classificação e seleção de ferramentas.
• Score (pontuação por escala): pontua o estado da entrada em uma escala definida pelo usuário, retornando a pontuação, a distribuição de probabilidade de cada nível e a confiança, adequado para cenários de "dar uma nota", como avaliação de urgência, classificação de qualidade e gradação de risco.
• Noul (julgamento binário): atribui um valor de probabilidade entre 0 e 1 sobre se uma afirmação é verdadeira, sem retornar confiança separadamente, adequado para cenários de julgamento binário como "é necessário encaminhar a um humano?" e "é preciso tomar uma ação?".

Relação entre os três: podem ser combinados livremente na mesma chamada de API, compartilhando o mesmo estado de entrada e sendo avaliados em paralelo de forma independente — adicionar perguntas quase não aumenta a latência nem gera degradação de contexto.

Como usar o Jev

• Cadastrar uma conta: acesse o site oficial do Jev https://console.typesafe.ai/ ; o cadastro permite o uso imediato.
• Obter a API Key: crie e copie a API Key no console, para a autenticação das chamadas de interface posteriores.
• Preparar o estado de entrada (State): organize a situação atual como texto ou dados estruturados, como o estado do jogo, uma lista de elementos da página ou o conteúdo de um e-mail; o Jev interpreta a descrição do estado, não a imagem original.
• Definir as perguntas (Questions): escolha entre as três primitivas conforme a necessidade — Choice (decisão de opções), Score (pontuação por escala) e Noul (julgamento binário) — e cada pergunta deve tratar de um único assunto concreto.
• Enviar a requisição: por meio da API REST ou do SDK oficial, envie o State e várias perguntas na mesma chamada; o modelo avaliará todas as perguntas em paralelo.
• Interpretar os resultados tipados: obtenha diretamente resultados fortemente tipados como opção/pontuação/probabilidade e confiança, sem necessidade de prompts em JSON ou parsers adicionais; o código pode consumi-los diretamente.
• Combinar múltiplas perguntas com código: divida julgamentos complexos em várias perguntas atômicas e combine os resultados de cada dimensão com lógica de código ponderada, em vez de deixar o modelo ponderar tudo em uma única pergunta.
• Integrar a derivação por confiança: projete estratégias conforme a confiança retornada, como execução automática acima de 90%, escalonamento para um modelo grande entre 60–90% e encaminhamento a um humano abaixo de 60%.
• Calibrar e validar com dados próprios: antes de colocar em produção regras de decisão automática, verifique com dados de negócio se a probabilidade do modelo corresponde aos resultados reais, sem olhar apenas um único valor de confiança.
• Usar em conjunto com modelos generativos: em cenários que exigem produção de texto (como preencher conteúdo de formulários), chame separadamente um modelo generativo; o Jev é responsável exclusivamente pela etapa de julgamento de alta frequência do tipo "qual escolher".

Vantagens principais do Jev

• Velocidade extrema: a latência de ponta a ponta é de apenas 70–500 milissegundos, de 20 a 200 vezes mais rápida que a de modelos de linguagem grandes similares, com suporte a ciclos de decisão de alta frequência de cerca de 10 por segundo.
• Sem alucinações de formato: a saída é estritamente limitada às opções e tipos predefinidos pelo usuário, sem necessidade de parsing de JSON, eliminando respostas disparatadas e erros de formato.
• Confiança calibrada: retorna distribuições de probabilidade e pontuações de confiança calibradas, com as quais o código pode tomar decisões de derivação: execução automática, escalonamento de modelo ou intervenção humana.
• Múltiplas perguntas em paralelo: uma única chamada pode avaliar várias perguntas independentes ao mesmo tempo, compartilhando a mesma entrada e sem aumentar quase nada a latência nem gerar degradação de contexto.
• Desacoplamento entre decisão e geração: separa o "julgamento" da geração completa de texto, evitando usar um modelo grande para tarefas menores, e deixando o modelo generativo concentrado na produção de texto que domina.
• Componível em código: o design atômico das perguntas faz com que a lógica de negócio se assente no código; uma mudança de prioridades só exige ajustar coeficientes em vez de reescrever o prompt, com maior controlabilidade e manutenibilidade.
• Compreensão semântica generalizada: baseado na arquitetura Transformer, conta com capacidade de compreensão semântica generalizada, de modo que, quando regras e candidatos mudam com frequência, não exige retreinamento como os classificadores tradicionais.

Comparação do Jev com produtos similares

Cenários de aplicação do Jev

• Roteamento de agentes e orquestração de ferramentas: julga em alta frequência se a intenção atual deve chamar busca, banco de dados ou execução de código, escolhendo apenas em uma lista predefinida de APIs válidas; elimina nomes de ferramentas alucinados e, com respostas na casa dos milissegundos, sustenta os ciclos rápidos do agente.
• Triagem de tickets de suporte: em uma única chamada, julga em paralelo a equipe responsável, o nível de urgência e se as informações estão completas, permitindo a triagem automática de milhões de e-mails/tickets por dia a um custo praticamente nulo.
• Decisões em jogos e simulações: recebe o estado estruturado do motor de jogo e seleciona ações em alta frequência, cerca de 10 vezes por segundo, dentro de um conjunto predefinido de ações, impulsionando jogadores de IA em jogos como DOOM e Mario.
• Automatização de navegador: numera os elementos da página e deixa o Jev decidir passo a passo qual botão clicar e qual campo preencher, recorrendo a um modelo generativo apenas quando é preciso produzir texto; tarefas como buscar passagens aéreas são concluídas em poucos segundos com pouco mais de uma dezena de passos.
• Compressão de contexto e roteamento de modelos: em contextos longos de milhões de tokens, julga quais informações são críticas e quais podem ser descartadas, e prevê em tempo real a complexidade da tarefa para decidir se a atribui a um modelo leve ou a um modelo de ponta, alcançando a alocação ótima de custo e resultado.

Perguntas frequentes sobre o Jev

P1: O que é o Jev?

R1: O Jev é um modelo de decisão estruturada de IA lançado pela TypeSafe AI; baseado em Transformer, não gera texto, e sim retorna três tipos de decisões tipadas dentro de opções predefinidas — Choice (opção), Score (pontuação) e Noul (julgamento binário) — acompanhadas de confiança calibrada, projetado para cenários de julgamento de alta frequência em agentes.

P2: Qual é a diferença entre o Jev e um modelo de linguagem grande?

R2: O Jev não é um modelo de linguagem grande, não gera frases e retorna apenas decisões estruturadas dentro das opções e tipos predefinidos pelo usuário, portanto não tem alucinações de formato; sua latência de resposta é de aproximadamente 70–500 ms, de 20 a 200 vezes mais rápida que a de modelos de linguagem grandes similares, e é adequado para julgamentos de alta frequência como roteamento de ferramentas e triagem de tickets, enquanto a geração de texto continua a cargo dos modelos generativos.

P3: Qual é a velocidade de resposta e o custo do Jev?

R3: A latência de ponta a ponta é de aproximadamente 70–500 ms, com suporte a cerca de 10 ciclos de decisão por segundo; a cobrança é de 0,042 USD por milhão de tokens de entrada, com saída gratuita, adequado para chamadas de julgamento em massa e de alta frequência.

P4: Para quais cenários o Jev é adequado?

R4: É adequado para cenários que exigem julgamentos de alta frequência e baixa latência do tipo "qual escolher", como roteamento de ferramentas para agentes, triagem de tickets de suporte, seleção de ações em IA de jogos, operações de automatização de navegador, e filtragem de informações e roteamento de modelos em contextos longos.