Новая модель JEV, разработанная компанией Typeface, представляет собой значительный шаг в развитии искусственного интеллекта, ориентированного на машинные задачи, а не на человеческое взаимодействие. В отличие от традиционных моделей, генерирующих текст для людей, JEV обучена принимать решения для выполнения кода. Это позволяет достигать высокой скорости и низкой стоимости операций, что делает ее перспективным инструментом для разработчиков.

Ключевые особенности и преимущества JEV

JEV была представлена компанией Typeface, основанной Диего Алмейдой, одним из соучредителей ChatGPT. Модель отличается от существующих тем, что фокусируется на принятии решений, а не на генерации текста. Это достигается за счет использования подхода "обучение с подкреплением и калиброванными решениями" (reinforced learning with calibrated decisions), разработанного командой Typeface за два года.

Основные преимущества JEV:

• Скорость: Обработка запросов занимает миллисекунды.
• Стоимость: Операции в 20-200 раз дешевле по сравнению с существующими моделями для аналогичных задач.
• Надежность: Модель демонстрирует высокую точность и снижает вероятность ошибок, таких как "галлюцинации" или потеря уверенности.
• Специализация: JEV не предназначена для генерации текста или диалогов, а фокусируется на выполнении конкретных задач, таких как категоризация или определение истинности утверждений.

Применение JEV

Благодаря своим характеристикам, JEV находит применение в различных областях:

• Разработка агентов: Повышает точность и эффективность кодовых агентов и агентов в производственных системах.
• Маршрутизация задач: Может использоваться как "маршрутизатор моделей" для определения, какая модель лучше всего подходит для конкретной задачи.
• Обработка заявок (Ticket Triage): Позволяет быстро классифицировать и приоритизировать входящие заявки, что значительно быстрее и дешевле, чем при использовании традиционных больших языковых моделей.
• Классификация и верификация: Компании, занимающиеся классификацией или верификацией данных в больших масштабах, могут значительно сократить расходы. Например, компания Verscell сообщила об ускорении процессов в 6 раз после перехода с Gemini 2.5 Flash на JEV.
• Игровые агенты: Демонстрируется возможность использования JEV для управления игровыми персонажами, например, в игре Starcraft, где модель помогла выиграть миссии.
• Обработка браузерных запросов: Тестирование компанией Open Code показало высокую скорость работы JEV при использовании в браузере.
• Умный дом: JEV может обрабатывать естественные команды для управления устройствами умного дома, например, "включи свет в гостиной", за 185 миллисекунд, что значительно быстрее традиционных LLM.

Типы запросов и структура модели

При взаимодействии с JEV используются три типа запросов:

1. Choice (Выбор): Модель выбирает один вариант из предложенного списка. Например, при классификации обращения пользователя по категориям "биллинг", "технический" или "продажи", JEV может определить, что обращение относится к технической поддержке, с указанием уровня уверенности.
2. Score (Оценка): Модель присваивает оценку по заданной шкале. Например, можно оценить уровень фрустрации пользователя по шкале "спокойный", "вежливый" или "сердитый".
3. New (Новый): Модель определяет вероятность истинности или наличия определенного свойства. Например, "является ли это правдой?" или "является ли это срочным?".

JEV работает по принципу, отличному от авторегрессионных моделей. Вместо генерации токенов последовательно, JEV обрабатывает входные данные (состояние, текст, JSON-объект) и набор вопросов параллельно. Это позволяет достичь высокой скорости и эффективности.

Сравнение с традиционным ПО и LLM

Традиционное программное обеспечение является детерминированным, работая по принципу "если-то". Агенты на основе LLM, напротив, не являются полностью детерминированными, что делает их гибкими, но иногда приводит к ошибкам. JEV занимает нишу в гибридных системах ИИ, сочетая элементы детерминизма с принятием решений на основе ИИ.

Модель JEV не генерирует токены и не использует авторегрессионный цикл. Вместо этого она получает состояние (например, текст, JSON) и набор вопросов, а затем параллельно оценивает их, возвращая структурированный ответ в формате JSON. Это позволяет использовать ее для принятия решений, таких как определение уровня риска мошенничества, оценка уверенности или выбор подходящего инструмента.

Доступ и тестирование

Доступ к JEV предоставляется через API. Также существует playground для тестирования и изучения возможностей модели. Демонстрации включают:

• "Шесть степеней разделения": Определение количества шагов, необходимых для перехода от одной страницы Википедии к другой (например, от "ДНК" до "Мэнни Пьюри Пони"). JEV справилась с этой задачей за 1.7 секунды.
• Управление умным домом: Обработка команд на естественном языке для управления устройствами.
• Приоритизация писем: Классификация и приоритизация сотен писем за несколько секунд.

Заключение

JEV представляет собой специализированную модель, ориентированную на принятие быстрых и дешевых решений для кода. Ее способность обрабатывать запросы в миллисекунды и с минимальными затратами открывает новые возможности для создания более эффективных и масштабируемых AI-приложений, особенно в области кодовых агентов и автоматизации рабочих процессов.