Qué es Jev: el modelo de decisión estructurada de IA de TypeSafe AI que devuelve juicios tipados en 70 ms

¿Qué es Jev?

Jev es un modelo de decisión estructurada de IA de TypeSafe AI, fundado por el exinvestigador de OpenAI Diogo Almeida. Jev se basa en Transformer, pero no es un modelo de lenguaje grande; no genera frases, sino que devuelve decisiones tipadas dentro de opciones predefinidas: Choice (opción), Score (puntuación) y Noul (probabilidad), acompañadas de un nivel de confianza. La latencia de respuesta del modelo es de aproximadamente 70–500 milisegundos, y está diseñado para escenarios de juicio de alta frecuencia en agentes, como el enrutamiento de herramientas, la clasificación de tickets y la toma de decisiones en juegos.

Funciones principales de Jev

• Decisión de opciones Choice: selecciona la opción más adecuada de una lista predefinida (hasta 255 opciones) y devuelve la opción, la distribución de probabilidad y la confianza, adecuada para enrutamiento y clasificación.
• Puntuación Score: puntúa la entrada según una escala personalizada (por ejemplo, niveles 1–5) y devuelve la puntuación, la probabilidad y la confianza, para medir urgencia, calidad o nivel de riesgo.
• Juicio booleano Noul: devuelve un valor de probabilidad entre 0 y 1 para "¿es verdadera esta afirmación?", adecuado para decisiones binarias como si se debe escalar a un humano o si se requiere tomar una acción.
• Múltiples preguntas en paralelo: una sola llamada a la API puede combinar varias preguntas a la vez, compartiendo la misma entrada y evaluándolas en paralelo de forma independiente; añadir preguntas casi no aumenta la latencia ni genera degradación del contexto.
• Salida de confianza: Choice y Score incluyen una puntuación de confianza calibrada, con la que el código puede hacer derivaciones: ejecución automática con confianza alta, escalado a un modelo grande o a un humano con confianza baja.
• Salida tipada sin alucinaciones: devuelve resultados estrictamente dentro de las opciones y tipos predefinidos por el usuario, sin necesidad de parseo JSON, eliminando errores de formato y respuestas fuera de rango.
• Latencia ultrabaja: respuesta de extremo a extremo de aproximadamente 70–500 milisegundos, entre 20 y 200 veces más rápida que modelos de lenguaje grandes similares, con soporte para bucles de decisión de alta frecuencia de unas 10 veces por segundo.

Las tres formas de salida de Jev

• Choice (decisión de opciones): selecciona la opción más adecuada de una lista predefinida por el usuario (hasta 255 opciones) y devuelve la opción seleccionada, la distribución de probabilidad de cada opción y la confianza, adecuado para escenarios de "elegir uno entre varios" como enrutamiento, clasificación y selección de herramientas.
• Score (puntuación por escala): puntúa el estado de la entrada según una escala definida por el usuario y devuelve la puntuación, la distribución de probabilidad de cada nivel y la confianza, adecuado para escenarios de "qué puntuación dar" como evaluación de urgencia, calificación de calidad y clasificación de riesgo.
• Noul (juicio booleano): devuelve un valor de probabilidad entre 0 y 1 sobre si una afirmación es verdadera, sin devolver confianza por separado, adecuado para escenarios de decisión binaria como "¿se debe escalar a un humano?" o "¿se requiere tomar una acción?".

Relación entre los tres: se pueden combinar libremente en la misma llamada a la API, compartiendo el mismo estado de entrada y evaluándose en paralelo de forma independiente: añadir preguntas casi no aumenta la latencia ni genera degradación del contexto.

Cómo usar Jev

• Registrar una cuenta: visita el sitio oficial de Jev https://console.typesafe.ai/ ; el registro permite usarlo directamente.
• Obtener una API Key: crea y copia la API Key en la consola para la autenticación de las llamadas posteriores.
• Preparar el estado de entrada (State): organiza la situación actual como texto o datos estructurados, como el estado del juego, una lista de elementos de la página o el contenido de un correo; Jev interpreta la descripción del estado, no la imagen original.
• Definir las preguntas (Questions): elige entre las tres primitivas según tus necesidades —Choice (decisión de opciones), Score (puntuación por escala) y Noul (juicio booleano)— y cada pregunta debe tratar un solo asunto concreto.
• Enviar la solicitud: a través de la API REST o el SDK oficial, envía el State y varias preguntas en la misma llamada; el modelo evaluará todas las preguntas en paralelo.
• Interpretar los resultados tipados: obtén directamente resultados fuertemente tipados como opción/puntuación/probabilidad y confianza, sin necesidad de prompts JSON ni parsers adicionales; el código puede consumirlos directamente.
• Combinar múltiples preguntas con código: divide los juicios complejos en varias preguntas atómicas y combina los resultados de cada dimensión con lógica de código ponderada, en lugar de dejar que el modelo haga todo el balance en una sola pregunta.
• Integrar la derivación por confianza: diseña estrategias según la confianza devuelta, como ejecución automática por encima del 90 %, escalado a un modelo grande entre 60–90 % y derivación a un humano por debajo del 60 %.
• Calibrar y verificar con datos propios: antes de poner en producción reglas de decisión automática, verifica con datos de negocio si la probabilidad del modelo coincide con los resultados reales, sin limitarse a un único valor de confianza.
• Combinar con modelos generativos: para escenarios que requieran producir texto (como rellenar formularios), llama aparte a un modelo generativo; Jev se encarga exclusivamente de los juicios de alta frecuencia del tipo "cuál elegir".

Ventajas principales de Jev

• Velocidad extrema: la latencia de extremo a extremo es de solo 70–500 milisegundos, entre 20 y 200 veces más rápida que la de modelos de lenguaje grandes similares, con soporte para bucles de decisión de alta frecuencia de unas 10 veces por segundo.
• Sin alucinaciones de formato: la salida está estrictamente limitada a las opciones y tipos predefinidos por el usuario, sin necesidad de parseo JSON, eliminando respuestas disparatadas y errores de formato.
• Confianza calibrada: devuelve distribuciones de probabilidad y puntuaciones de confianza calibradas, con las que el código puede tomar decisiones de derivación: ejecución automática, escalado de modelo o intervención humana.
• Múltiples preguntas en paralelo: una sola llamada puede evaluar varias preguntas independientes a la vez, compartiendo la misma entrada y sin aumentar apenas la latencia ni generar degradación del contexto.
• Desacoplamiento entre decisión y generación: separa el "juicio" de la generación completa de texto, evitando usar un modelo grande para tareas menores, y dejando que el modelo generativo se concentre en la producción de texto que domina.
• Componible en código: el diseño atómico de las preguntas hace que la lógica de negocio se asiente en el código; un cambio de prioridades solo requiere ajustar coeficientes en lugar de reescribir el prompt, con mayor control y mantenibilidad.
• Comprensión semántica general: basado en la arquitectura Transformer, cuenta con capacidad de comprensión semántica general, por lo que cuando cambian las reglas y los candidatos con frecuencia no requiere reentrenamiento como los clasificadores tradicionales.

Comparación de Jev con productos similares

Escenarios de aplicación de Jev

• Enrutamiento de agentes y orquestación de herramientas: juzga a alta frecuencia si la intención actual debería invocar búsqueda, base de datos o ejecución de código, eligiendo solo de una lista predefinida de APIs válidas; elimina los nombres de herramientas alucinados y, con respuestas del orden de milisegundos, sostiene los ciclos rápidos del agente.
• Clasificación de tickets de soporte: en una sola llamada, juzga en paralelo el equipo responsable, el nivel de urgencia y si la información está completa, permitiendo el triaje automático de millones de correos/tickets al día a un coste prácticamente nulo.
• Decisiones en juegos y simulaciones: recibe el estado estructurado del motor de juego y selecciona acciones a alta frecuencia, unas 10 veces por segundo, dentro de un conjunto predefinido de acciones, impulsando jugadores de IA en juegos como DOOM y Mario.
• Automatización del navegador: numera los elementos de la página y deja que Jev decida paso a paso qué botón pulsar o qué campo rellenar, recurriendo a un modelo generativo solo cuando hace falta producir texto; tareas como buscar vuelos se completan en unos pocos segundos con solo una decena de pasos.
• Compresión de contexto y enrutamiento de modelos: en contextos largos de millones de tokens, juzga qué información es crítica y cuál se puede descartar, y predice en tiempo real la complejidad de la tarea para decidir si asignarla a un modelo ligero o a un modelo insignia, logrando una asignación óptima de coste y rendimiento.

Preguntas frecuentes sobre Jev

P1: ¿Qué es Jev?

R1: Jev es un modelo de decisión estructurada de IA de TypeSafe AI; basado en Transformer, no genera texto, sino que devuelve tres tipos de decisiones tipadas dentro de opciones predefinidas —Choice (opción), Score (puntuación) y Noul (juicio booleano)— acompañadas de confianza calibrada, diseñado para escenarios de juicio de alta frecuencia en agentes.

P2: ¿En qué se diferencia Jev de un modelo de lenguaje grande?

R2: Jev no es un modelo de lenguaje grande, no genera frases y solo devuelve decisiones estructuradas dentro de las opciones y tipos predefinidos por el usuario, por lo que no tiene alucinaciones de formato; su latencia de respuesta es de aproximadamente 70–500 ms, entre 20 y 200 veces más rápida que la de modelos de lenguaje grandes similares, y es adecuado para juicios de alta frecuencia como el enrutamiento de herramientas y la clasificación de tickets, mientras que la generación de texto sigue correspondiendo a los modelos generativos.

P3: ¿Cuál es la velocidad de respuesta y el coste de Jev?

R3: La latencia de extremo a extremo es de aproximadamente 70–500 ms, con soporte para unos 10 bucles de decisión por segundo; la facturación es de 0,042 USD por millón de tokens de entrada y salida gratuita, adecuado para llamadas de juicio masivas y de alta frecuencia.

P4: ¿Para qué escenarios es adecuado Jev?

R4: Es adecuado para escenarios que requieren juicios de alta frecuencia y baja latencia del tipo "cuál elegir", como el enrutamiento de herramientas para agentes, la clasificación de tickets de soporte, la selección de acciones en IA de juegos, las operaciones de automatización del navegador, y el filtrado de información y el enrutamiento de modelos en contextos largos.