Jev

TypeSafe Jev — это модель решений: она не генерирует текст, а только отвечает на заранее определённые вопросы. В запросе передаются оцениваемое содержимое и набор вопросов; модель возвращает на каждый вопрос структурированный ответ с вероятностями, на основании которого программа может непосредственно выполнять ветвление логики.

Область применения

Подходит для:

• Классификации и маршрутизации: определения команды, ответственной за обращение, категории намерения пользователя.
• Решений «да/нет»: содержит ли текст персональные данные, является ли сообщение запросом на возврат, является ли оно prompt injection.
• Оценки и ранжирования: срочности, релевантности, интенсивности эмоций, а также фильтрации результатов поиска.
• Контроля качества ответов LLM: соответствует ли ответ вопросу, нарушает ли он правила.

Не подходит для:

• Генерации текста, кратких изложений, переводов или кода.
• Решений по изображениям (Jev принимает только текст и JSON; для решений по изображениям используйте GPT-6 Luna).
• Открытых вопросов, ответы на которые невозможно заранее представить в виде вариантов или уровней.

Сравнение с подходом «чат-модель + вывод JSON»:

Быстрый старт

1. Подготовка данных для подключения. Создайте API Key в консоли OfoxAI  и используйте следующие значения:

2. Установка SDK. Для вызова через официальный Python SDK OpenAI требуется версия, содержащая client.decisions:

pip install -U openai

3. Выполнение вызова.

import os
from openai import OpenAI
 
client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"])
 
r = client.decisions.create(
    model="typesafe/jev-latest",
    input="Customer message: I was charged twice, nobody has answered my two emails, and I need a refund today.",
    questions=[{"type": "predicate", "name": "is_frustrated", "instructions": "Is the customer frustrated?"}],
)
print(r.answers[0].probability)  # 0.98

curl https://api.ofox.ai/v1/decisions \
  -H "Authorization: Bearer $OFOX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "typesafe/jev-latest",
    "input": "Customer message: I was charged twice, nobody has answered my two emails, and I need a refund today.",
    "questions": [
      { "type": "predicate", "name": "is_frustrated", "instructions": "Is the customer frustrated?" }
    ]
  }'

Пример ответа:

{
  "model": "typesafe/jev-latest",
  "answers": [{ "type": "predicate", "name": "is_frustrated", "probability": 0.98 }],
  "usage": { "prompt_tokens": 302, "completion_tokens": 23, "total_tokens": 325 }
}

probability — вероятность ответа «да»; значение 0.98 означает, что модель с очень высокой вероятностью считает клиента недовольным. Чтобы применить пример к собственной задаче, замените input фактическим содержимым, а questions — фактическими вопросами.

Типы вопросов

Тип вопроса выбирается в зависимости от требуемой формы результата:

Пример: для вопроса «является ли обращение запросом на возврат» используется predicate; для вопроса «какая команда должна обработать обращение» — choice; для вопроса «какова степень срочности» — score. Все три вопроса можно передать в одном запросе и получить все ответы одновременно.

После выбора типа вопроса проверьте вопросы и варианты в соответствии с разделом Проектирование вопросов.

Типичные ошибки

Полный список ошибок приведён в разделе Decisions API · Типичные ошибки.

Официальная документация

• TypeSafe · Документация 
• TypeSafe · Примеры сценариев 

Часто задаваемые вопросы