Jev
TypeSafe Jev 是一個判斷模型,不生成文字,只回答預先定義的問題。請求中提供待判斷的內容與一組問題,模型為每個問題返回結構化答案及其機率,程式可直接依據結果執行分支邏輯。
適用情境
適用於:
- 分類與分流:工單歸屬的處理團隊、使用者意圖類別。
- 是非判斷:是否包含個人資訊、是否為退款申請、是否為提示詞注入。
- 評分與排序:緊急程度、相關度、情緒強度,以及檢索結果篩選。
- 大模型輸出品質檢查:回答是否切題、是否違規。
不適用於:
- 生成文字、摘要、翻譯或程式碼。
- 圖片判斷(Jev 僅支援文字與 JSON 輸入,圖片判斷請使用 GPT-6 Luna)。
- 答案無法預先列為選項或級別的開放式問題。
與「對話大模型 + JSON 輸出」的比較:
快速開始
1. 準備接入資訊:在 OfoxAI 控制台 建立 API Key,並使用以下資訊:
https://api.ofox.ai/v1typesafe/jev-latest也可寫作 jev-latest/v1/decisionsPOST;不適用 /v1/chat/completions2. 安裝 SDK:使用 OpenAI 官方 Python SDK 呼叫時,需安裝包含 client.decisions 的版本:
pip install -U openaiAttributeError: 'OpenAI' object has no attribute 'decisions',表示 SDK 版本過舊,執行上述指令升級即可(實測 openai 3.31.0 可用)。不使用 SDK 時,也可透過下方 cURL 呼叫。3. 發起呼叫:
Python
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"])
r = client.decisions.create(
model="typesafe/jev-latest",
input="Customer message: I was charged twice, nobody has answered my two emails, and I need a refund today.",
questions=[{"type": "predicate", "name": "is_frustrated", "instructions": "Is the customer frustrated?"}],
)
print(r.answers[0].probability) # 0.98回應範例:
{
"model": "typesafe/jev-latest",
"answers": [{ "type": "predicate", "name": "is_frustrated", "probability": 0.98 }],
"usage": { "prompt_tokens": 302, "completion_tokens": 23, "total_tokens": 325 }
}probability 表示答案為「是」的機率,0.98 即模型判斷客戶不滿的可能性極高。將 input 替換為實際內容、questions 替換為實際問題,即可用於自己的業務情境。
問題類型
根據所需的結果形式選擇問題類型:
範例:「是否為退款申請」使用 predicate;「應由哪個團隊處理」使用 choice;「緊急程度如何」使用 score。三個問題可放在同一請求中,一次返回全部答案。
確定問題類型後,請參照問題設計檢查問題與選項。
常見錯誤
完整錯誤列表請見 Decisions API · 常見錯誤。
官方文件
常見問題
Jev 和用大模型輸出 JSON 有什麼區別?
Jev 僅在給定的選項和級別內作答,不會返回範圍外的值;每個答案附帶機率,choice 與 score 另附置信度,可直接用於設定門檻。大模型輸出 JSON 需要額外驗證,通常也不提供可用的機率。
/v1/decisions 和 /typesafe/v1/systemone 該用哪個?
新專案建議使用 /v1/decisions,可直接透過 OpenAI SDK 呼叫。已使用 TypeSafe SDK 或其官方範例程式碼的專案,可使用 /typesafe/v1/systemone,僅需修改 base URL。
Jev 如何計費?
僅依輸入 token 計費,輸出不計費,單價請見模型頁。同一請求中的多個問題共用同一份輸入,因此將問題合併到一次請求中可降低成本。
置信度高是否意味著答案一定正確?
不一定。選項未涵蓋實際情況時,模型仍會從既有選項中選擇一個,且置信度可能較高。因此 choice 問題應設定「以上皆非」等兜底選項,並使用人工標註樣本進行驗證。
score 返回 1.43 表示什麼?
score 是依各級機率加權計算的值,級別從 0 開始編號。1.43 表示介於第 1 級與第 2 級之間、更接近第 1 級;各級的具體機率請見 probabilities。
是否支援中文內容?
支援。內容與問題均可使用中文,也可內容使用中文、問題使用英文。
Jev 是否支援圖片?
不支援,Jev 僅接受文字和 JSON。需要對圖片進行判斷時,可改用支援圖片輸入的 GPT-6 Luna(openai/gpt-6-luna),請求格式相同。