Qu'est-ce que Jev : le modèle de décision structurée par IA de TypeSafe AI qui renvoie des jugements typés en 70 millisecondes

Qu'est-ce que Jev

Jev est un modèle de décision structurée par IA de TypeSafe AI, fondé par l'ancien chercheur d'OpenAI Diogo Almeida. Jev est basé sur Transformer mais n'est pas un grand modèle de langage ; il ne produit pas de phrases, mais renvoie des décisions typées dans des options prédéfinies : Choice (option), Score (note), Noul (probabilité), avec un niveau de confiance. La latence de réponse du modèle est d'environ 70 à 500 millisecondes, conçue spécifiquement pour les scénarios de jugement à haute fréquence des agents, tels que le routage d'outils, la répartition de tickets et les décisions de jeu.

Fonctionnalités principales de Jev

• Décision par options Choice : sélectionne l'élément le plus approprié dans une liste d'options prédéfinie (jusqu'à 255), renvoie l'option, la distribution de probabilité et la confiance — convient au routage et à la classification.
• Notation Score : attribue une note à l'entrée selon une échelle personnalisée (par ex. 1 à 5 niveaux), renvoie la note, la probabilité et la confiance — pour mesurer l'urgence, la qualité ou le niveau de risque.
• Noul est un jugement binaire : produit une valeur de probabilité de 0 à 1 pour « cette affirmation est-elle vraie » — convient aux jugements binaires comme la nécessité d'un transfert à un humain ou d'une action.
• Questions multiples en parallèle : un seul appel API peut poser plusieurs questions à la fois, partageant la même entrée avec une évaluation indépendante en parallèle — ajouter des questions n'augmente presque pas la latence et ne produit aucune dégradation du contexte.
• Sortie de confiance : Choice et Score sont accompagnés de scores de confiance calibrés, permettant au code d'effectuer un routage — haute confiance exécution automatique, basse confiance escalade vers un grand modèle ou un humain.
• Sortie typée sans hallucination : strictement limitée aux options et types prédéfinis par l'utilisateur, aucun parsing JSON nécessaire, éliminant les erreurs de format et les réponses hors limites.
• Latence ultra-faible : réponse de bout en bout d'environ 70 à 500 millisecondes, 20 à 200 fois plus rapide que les grands modèles de langage comparables, prenant en charge des boucles de décision à haute fréquence d'environ 10 par seconde.

Les trois formes de sortie de Jev

• Choice (décision par options) : sélectionne l'élément le plus approprié dans une liste d'options prédéfinie par l'utilisateur (jusqu'à 255), renvoie l'option choisie, la distribution de probabilité des options et la confiance — convient aux scénarios « choisir un » comme le routage, la classification et la sélection d'outils.
• Score (notation par échelle) : attribue une note à l'état d'entrée selon une échelle définie par l'utilisateur, renvoie la note, la distribution de probabilité des niveaux et la confiance — convient aux scénarios « quelle note » comme l'évaluation de l'urgence, la notation de qualité et la classification des risques.
• Noul (jugement binaire) : produit une valeur de probabilité entre 0 et 1 sur la vérité d'une affirmation, sans confiance séparée — convient aux scénarios de jugement binaire comme « faut-il transférer à un humain » et « une action est-elle requise ».

Relation entre les trois : ils peuvent être mélangés librement dans le même appel API, partageant le même état d'entrée avec une évaluation indépendante en parallèle — ajouter des questions n'augmente presque pas la latence et ne produit aucune dégradation du contexte.

Comment utiliser Jev

• Créer un compte : visitez le site officiel de Jev https://console.typesafe.ai/ — l'inscription permet une utilisation immédiate.
• Obtenir une clé API : créez et copiez une clé API dans la console pour l'authentification des appels d'interface ultérieurs.
• Préparer l'état d'entrée (State) : structurez la situation actuelle en texte ou données structurés, comme l'état du jeu, la liste des éléments de la page web, le contenu de l'e-mail — Jev lit des descriptions d'état, pas des images brutes.
• Définir les questions (Questions) : choisissez parmi les trois primitives selon vos besoins — Choice (décision par options), Score (notation par échelle), Noul (jugement binaire) ; chaque question ne porte que sur une chose concrète.
• Envoyer la requête : envoyez des requêtes via l'API REST ou le SDK officiel, avec le State et plusieurs questions dans le même appel ; le modèle évalue toutes les questions en parallèle.
• Analyser les résultats typés : obtenez directement des résultats fortement typés comme options/notes/probabilités et confiance — aucun prompt JSON ni analyseur supplémentaire nécessaire ; le code peut les consommer directement.
• Combiner plusieurs questions dans le code : décomposez les jugements complexes en questions atomiques, puis pondérez et combinez les résultats de chaque dimension avec une logique de code, plutôt que de laisser le modèle tout évaluer en une seule question.
• Intégrer le routage par confiance : concevez des stratégies basées sur la confiance retournée — par ex. supérieure à 90 % exécution automatique, 60–90 % escalade vers un grand modèle, inférieure à 60 % transfert à un humain.
• Calibrer et valider avec vos propres données : avant de mettre en ligne des règles de décision automatiques, vérifiez d'abord avec vos données métier si les probabilités du modèle correspondent aux résultats réels — ne vous fiez pas à une seule valeur de confiance.
• Associer avec des modèles de génération : pour les scénarios nécessitant une production de texte (comme le remplissage de formulaires), appelez séparément un modèle de génération — Jev se charge exclusivement de l'étape de jugement à haute fréquence « lequel choisir ».

Avantages fondamentaux de Jev

• Vitesse extrême : latence de bout en bout de seulement 70 à 500 millisecondes, 20 à 200 fois plus rapide que les grands modèles de langage comparables, prenant en charge des boucles de décision à haute fréquence d'environ 10 par seconde.
• Aucune hallucination de format : la sortie est strictement limitée aux options et types prédéfinis par l'utilisateur, aucun parsing JSON nécessaire, éliminant les réponses hors limites et les erreurs de format.
• Confiance calibrée : renvoie des distributions de probabilité et des scores de confiance calibrés, permettant au code de prendre des décisions de routage — exécution automatique, escalade de modèle ou intervention humaine.
• Questions multiples en parallèle : un seul appel peut évaluer plusieurs questions indépendantes simultanément, partageant la même entrée, n'augmentant presque pas la latence et ne produisant aucune dégradation du contexte.
• Découplage décision/génération : dissocie le « jugement » de la génération de texte complète, évitant d'utiliser un grand modèle pour des tâches triviales, laissant les modèles de génération se concentrer sur la production de texte qu'ils maîtrisent.
• Composable en code : la conception atomique des questions ancre la logique métier dans le code — les changements de priorité ne nécessitent que d'ajuster des coefficients plutôt que de réécrire des prompts, avec une meilleure contrôlabilité et maintenabilité.
• Compréhension sémantique générale : basé sur l'architecture Transformer, avec une capacité de compréhension sémantique générale — lorsque les règles et les candidats changent fréquemment, aucun réentraînement n'est nécessaire comme pour les classificateurs traditionnels.

Comparaison avec des concurrents similaires

Scénarios d'application de Jev

• Routage d'agents et ordonnancement d'outils : jugement à haute fréquence de l'intention actuelle — appeler la recherche, la base de données ou l'exécution de code — en choisissant uniquement dans une liste prédéfinie d'API valides, éliminant les noms d'outils hallucinés tout en soutenant la boucle rapide de l'agent avec des réponses de l'ordre de la milliseconde.
• Répartition de tickets de service client : un seul appel juge en parallèle l'équipe attributaire, l'urgence et l'exhaustivité des informations d'un ticket, permettant à des millions d'e-mails/tickets quotidiens d'être triés automatiquement à coût quasi nul.
• Décisions de jeu et de simulation : reçoit les états structurés des moteurs de jeu, effectue des sélections d'actions à haute fréquence à environ 10 par seconde dans un ensemble d'actions prédéfini, pilotant les joueurs IA de jeux comme DOOM et Mario.
• Automatisation du navigateur : numérote les éléments de la page et laisse Jev décider étape par étape quel bouton cliquer et quel champ remplir — ne basculant vers un modèle de génération que lorsqu'une production de texte est nécessaire, permettant d'accomplir des tâches comme la recherche de vols en une douzaine d'étapes en quelques secondes.
• Compression de contexte et routage de modèles : dans de longs contextes de millions de tokens, juge quelles informations sont critiques et lesquelles peuvent être écartées, et prédit en temps réel la complexité des tâches pour décider d'envoyer un modèle léger ou un modèle phare, réalisant une allocation optimale coût/efficacité.

Questions fréquentes

Q1 : Qu'est-ce que Jev ?

R1 : Jev est un modèle de décision structurée par IA de TypeSafe AI, basé sur Transformer mais ne générant pas de texte — il renvoie plutôt trois types de décisions typées dans des options prédéfinies : Choice (option), Score (note), Noul (jugement binaire), avec une confiance calibrée, conçu pour les scénarios de jugement à haute fréquence des agents.

Q2 : Quelle est la différence entre Jev et les grands modèles de langage ?

R2 : Jev n'est pas un grand modèle de langage ; il ne produit pas de phrases et ne renvoie que des décisions structurées dans les options et types prédéfinis par l'utilisateur, donc aucune hallucination de format ; la latence de réponse est d'environ 70 à 500 millisecondes, 20 à 200 fois plus rapide que les grands modèles de langage comparables, adapté aux jugements à haute fréquence comme le routage d'outils et la répartition de tickets — la génération de texte doit toujours être confiée aux modèles de génération.

Q3 : Quelles sont la vitesse de réponse et le coût de Jev ?

R3 : latence de bout en bout d'environ 70 à 500 millisecondes, prenant en charge des boucles de décision d'environ 10 par seconde ; facturation de 0,042 dollar par million de tokens d'entrée, sortie gratuite, adapté aux appels de jugement en grand volume et à haute fréquence.

Q4 : À quels scénarios Jev convient-il ?

R4 : aux scénarios nécessitant des jugements « lequel choisir » à haute fréquence et faible latence, comme le routage d'outils pour agents, la répartition de tickets de service client, la sélection d'actions pour l'IA de jeu, les opérations d'automatisation du navigateur, ainsi que le filtrage d'informations et le routage de modèles dans les longs contextes.