Краткое содержание

Jev — это структурная модель принятия решений на базе ИИ от TypeSafe AI; она не выдаёт предложения, а возвращает типизированные решения в рамках заданных вариантов: Choice (вариант), Score (оценка), Noul (бинарное суждение), вместе с калиброванной уверенностью, с задержкой около 70–500 миллисекунд — в 20–200 раз быстрее сопоставимых больших языковых моделей — поддерживает параллельную оценку нескольких вопросов в одном вызове, подходит для сценариев высокочастотных суждений агентов.

Что такое Jev

Jev — это структурная модель принятия решений на базе ИИ от TypeSafe AI, основанная бывшим исследователем OpenAI Диогу Алмейдой. Jev работает на архитектуре Transformer, но не является большой языковой моделью; она не выдаёт предложения, а возвращает типизированные решения в рамках заданных вариантов: Choice (вариант), Score (оценка), Noul (вероятность), вместе с уровнем уверенности. Время отклика модели составляет около 70–500 миллисекунд, модель предназначена для сценариев высокочастотных суждений агентов, таких как маршрутизация инструментов, распределение тикетов и игровые решения.

Основные функции Jev

  • Выбор варианта Choice: выбирает наиболее подходящий вариант из заданного списка (до 255), возвращая вариант, распределение вероятностей и уверенность — подходит для маршрутизации и классификации.
  • Оценка Score: оценивает входные данные по пользовательской шкале (например, 1–5 уровней), возвращая оценку, вероятность и уверенность — для измерения срочности, качества или уровня риска.
  • Noul — это бинарное суждение: выдаёт значение вероятности 0–1 на вопрос «верно ли это утверждение» — подходит для бинарных суждений, таких как необходимость передачи человеку или необходимость действия.
  • Параллельные множественные вопросы: один вызов API может задавать несколько вопросов одновременно, разделяя один входной сигнал с независимой параллельной оценкой — добавление вопросов почти не увеличивает задержку и не приводит к деградации контекста.
  • Вывод уверенности: Choice и Score сопровождаются калиброванными оценками уверенности, позволяя коду выполнять маршрутизацию — высокая уверенность автоматическое выполнение, низкая уверенность эскалация к большой модели или человеку.
  • Типизированный вывод без галлюцинаций: строго ограничен заданными пользователем вариантами и типами, не требует разбора JSON, исключая ошибки формата и ответы вне границ.
  • Сверхнизкая задержка: сквозное время отклика около 70–500 миллисекунд, в 20–200 раз быстрее сопоставимых больших языковых моделей, поддерживает высокочастотные циклы принятия решений около 10 в секунду.

Три формы вывода Jev

  • Choice (выбор варианта): выбирает наиболее подходящий вариант из заданного пользователем списка (до 255), возвращая выбранный вариант, распределение вероятностей по вариантам и уверенность — подходит для сценариев «выбрать один», таких как маршрутизация, классификация и выбор инструмента.
  • Score (оценка по шкале): оценивает входное состояние по заданной пользователем шкале оценок, возвращая оценку, распределение вероятностей по уровням и уверенность — подходит для сценариев «на сколько баллов», таких как оценка срочности, рейтинг качества и классификация риска.
  • Noul (бинарное суждение): выдаёт значение вероятности между 0–1 на вопрос, верно ли утверждение, без отдельного вывода уверенности — подходит для сценариев бинарного суждения, таких как «нужна ли передача человеку» и «требуется ли действие».

Связь между тремя: их можно произвольно смешивать в одном вызове API, разделяя одно входное состояние с параллельной независимой оценкой — добавление вопросов почти не увеличивает задержку и не приводит к деградации контекста.

Как использовать Jev

  • Регистрация аккаунта: посетите официальный сайт Jev https://console.typesafe.ai/ — после регистрации можно сразу использовать.
  • Получение API-ключа: создайте и скопируйте API-ключ в консоли для аутентификации последующих вызовов API.
  • Подготовка входного состояния (State): представьте текущую ситуацию в виде структурированного текста или данных, например состояние игры, список элементов веб-страницы, содержимое письма — Jev смотрит на описание состояния, а не на исходное изображение.
  • Определение вопросов (Questions): выберите одну из трёх примитивов по необходимости — Choice (выбор варианта), Score (оценка по шкале), Noul (бинарное суждение); каждый вопрос спрашивает только об одной конкретной вещи.
  • Отправка запроса: отправляйте запросы через REST API или официальный SDK, помещая State и несколько вопросов в один вызов; модель оценит все вопросы параллельно.
  • Разбор типизированных результатов: напрямую получайте сильно типизированные результаты, такие как варианты/оценки/вероятности и уверенность — без JSON-промптов или дополнительных парсеров; код может потреблять их напрямую.
  • Комбинирование нескольких вопросов в коде: разбейте сложные суждения на атомарные вопросы, затем взвешивайте и комбинируйте результаты по каждому измерению с помощью логики кода, а не заставляя модель взвешивать всё в одном вопросе.
  • Интеграция маршрутизации по уверенности: проектируйте стратегии на основе возвращаемой уверенности — например, выше 90% автоматическое выполнение, 60–90% эскалация к большой модели, ниже 60% передача человеку.
  • Калибровка и проверка на своих данных: прежде чем вводить в действие автоматические правила принятия решений, проверьте на бизнес-данных, соответствуют ли вероятности модели фактическим результатам — нельзя полагаться только на одно значение уверенности.
  • Использование вместе с генеративными моделями: для сценариев, требующих вывода текста (например, заполнение содержимого формы), вызывайте генеративную модель отдельно — Jev отвечает исключительно за высокочастотный этап суждения «какой выбрать».

Ключевые преимущества Jev

  • Экстремальная скорость: сквозная задержка всего 70–500 миллисекунд, в 20–200 раз быстрее сопоставимых больших языковых моделей, поддерживает высокочастотные циклы принятия решений около 10 в секунду.
  • Отсутствие галлюцинаций формата: вывод строго ограничен заданными пользователем вариантами и типами, не требует разбора JSON, исключая ответы вне границ и ошибки формата.
  • Калиброванная уверенность: возвращает калиброванные распределения вероятностей и оценки уверенности, позволяя коду принимать решения о маршрутизации — автоматическое выполнение, эскалация модели или вмешательство человека.
  • Параллельные множественные вопросы: один вызов может оценивать несколько независимых вопросов одновременно, разделяя один входной сигнал, почти не увеличивая задержку и не приводя к деградации контекста.
  • Разделение решений и генерации: выводит «суждение» из полноценной генерации текста, избегая применения большой модели к тривиальным задачам, позволяя генеративным моделям сосредоточиться на выводе текста, в котором они сильны.
  • Комбинируемость в коде: атомарная конструкция вопросов позволяет закрепить бизнес-логику в коде — изменение приоритетов требует только корректировки коэффициентов, а не переписывания промптов, что даёт лучшую управляемость и поддерживаемость.
  • Универсальное семантическое понимание: основана на архитектуре Transformer, обладает универсальной способностью семантического понимания — при частом изменении правил и кандидатов не требуется переобучение, как в случае традиционных классификаторов.

Сравнение с аналогичными конкурентами

Измерение сравнения Jev (модель решений System One) Gemini 2.5 Flash (универсальная LLM для суждений классификации)
Сущность модели Модель классификации, обученная специально для принятия решений, без возможности генерации текста Универсальная авторегрессионная мультимодальная большая модель, генерация текста — основное назначение
Задержка отклика 70–500 миллисекунд, стабильная и предсказуемая От сотен миллисекунд до нескольких секунд, сильно зависит от длины промпта и выходных токенов
Стоимость вызова Ввод 0,042 доллара за миллион токенов, вывод бесплатный Биллинг и на ввод, и на вывод, общая стоимость выше в 10–20 раз
Точность классификации Тесты сообщества: при классификации коммерческой почты немного ниже Gemini Более высокая точность на универсальных задачах, более полное семантическое понимание
Форма вывода Типизированное решение + распределение вероятностей + калиброванная уверенность Свободный текст или ограниченный JSON, без встроенной калиброванной уверенности
Контроль галлюцинаций Строго ограничен заданными вариантами, без галлюцинаций формата Возможны выходы за границы и дрейф полей
Параллелизм многозадачности Один вызов параллельно оценивает несколько независимых вопросов, нулевая дополнительная задержка Требуются последовательные множественные вызовы или сборка сложных промптов, подвержено деградации контекста
Мультимодальные возможности Обрабатывает только структурированные текстовые состояния Встроенная поддержка изображений, текста, аудио и видео, может напрямую «судить по изображению»

Сценарии применения Jev

  • Маршрутизация агентов и планирование инструментов: высокочастотное суждение о том, какой текущий запрос следует вызывать — поиск, базу данных или исполнение кода — выбирая только из заданного списка допустимых API, исключая галлюцинирующие имена инструментов и поддерживая быстрый цикл агента откликом порядка миллисекунд.
  • Распределение тикетов поддержки: один вызов параллельно оценивает команду-исполнителя, срочность и полноту информации тикета, позволяя автоматически сортировать миллионы писем/тикетов в день практически с нулевыми затратами.
  • Игровые и симуляционные решения: принимает структурированное состояние от игрового движка, совершая высокочастотный выбор действий со скоростью около 10 в секунду в рамках заданного набора действий, управляя ИИ-игроками в играх вроде DOOM и Mario.
  • Автоматизация браузера: нумерует элементы страницы, и Jev шаг за шагом решает, какую кнопку нажать и какое поле заполнить, переключаясь на генеративную модель только при необходимости вывода текста, позволяя выполнять задачи вроде поиска авиабилетов за десяток шагов всего за несколько секунд.
  • Сжатие контекста и маршрутизация моделей: в длинных контекстах из миллионов токенов определяет, какая информация критична, а какую можно отбросить, и предсказывает в реальном времени сложность задачи, чтобы решить, отправить ли её лёгкой модели или флагманской, обеспечивая оптимальное распределение затрат и эффективности.

Часто задаваемые вопросы

В1: Что такое Jev?

О1: Jev — это структурная модель принятия решений на базе ИИ от TypeSafe AI, работающая на архитектуре Transformer, но не генерирующая текст — вместо этого она возвращает три типа типизированных решений в рамках заданных вариантов: Choice (вариант), Score (оценка), Noul (бинарное суждение), с калиброванной уверенностью, предназначенная для сценариев высокочастотных суждений агентов.

В2: Чем Jev отличается от больших языковых моделей?

О2: Jev не является большой языковой моделью; она не выдаёт предложения, а возвращает только структурированные решения в рамках заданных пользователем вариантов и типов, поэтому отсутствуют галлюцинации формата; задержка отклика около 70–500 миллисекунд, в 20–200 раз быстрее сопоставимых больших языковых моделей, подходит для высокочастотных суждений, таких как маршрутизация инструментов и распределение тикетов — генерация текста по-прежнему остаётся задачей генеративных моделей.

В3: Какова скорость отклика и стоимость Jev?

О3: сквозная задержка около 70–500 миллисекунд, поддерживает циклы принятия решений около 10 в секунду; биллинг — 0,042 доллара за миллион входных токенов, вывод бесплатный, подходит для массовых высокочастотных вызовов типа суждений.

В4: Для каких сценариев подходит Jev?

О4: для сценариев, требующих высокочастотных низкозадержковых суждений типа «какой выбрать», таких как маршрутизация инструментов агентов, распределение тикетов поддержки, выбор действий игровым ИИ, операции автоматизации браузера, а также фильтрация информации и маршрутизация моделей в длинных контекстах.

Частые вопросы

Что такое Jev?

Jev — это структурная модель принятия решений на базе ИИ от TypeSafe AI, работающая на архитектуре Transformer, но не генерирующая текст — вместо этого она возвращает три типа типизированных решений в рамках заданных вариантов: Choice (вариант), Score (оценка), Noul (бинарное суждение), с калиброванной уверенностью, предназначенная для сценариев высокочастотных суждений агентов.

Чем Jev отличается от больших языковых моделей?

Jev не является большой языковой моделью; она не выдаёт предложения, а возвращает только структурированные решения в рамках заданных пользователем вариантов и типов, поэтому отсутствуют галлюцинации формата; задержка отклика около 70–500 миллисекунд, в 20–200 раз быстрее сопоставимых больших языковых моделей, подходит для высокочастотных суждений, таких как маршрутизация инструментов и распределение тикетов — генерация текста по-прежнему остаётся задачей генеративных моделей.

Какова скорость отклика и стоимость Jev?

Сквозная задержка около 70–500 миллисекунд, поддерживает циклы принятия решений около 10 в секунду; биллинг — 0,042 доллара за миллион входных токенов, вывод бесплатный, подходит для массовых высокочастотных вызовов типа суждений.

Для каких сценариев подходит Jev?

Для сценариев, требующих высокочастотных низкозадержковых суждений типа «какой выбрать», таких как маршрутизация инструментов агентов, распределение тикетов поддержки, выбор действий игровым ИИ, операции автоматизации браузера, а также фильтрация информации и маршрутизация моделей в длинных контекстах.