GPT 推理設定
本頁說明 GPT 系列的推理強度、推理摘要與回答長度控制;模型 ID 與介面設定請見 GPT 系列概覽。
重點推理消耗的 token 會計入輸出上限。開啟推理時請預留足夠的 max_completion_tokens,否則回答可能為空。
GPT-5 及之後的模型支援推理:先進行內部推理,再給出回答,適合數學、程式碼與多步驟分析。
- 常用取值為
low、medium、high,強度越高,推理 token 越多、耗時越長。傳入模型不支援的值時會回傳 400,錯誤訊息會列出該模型支援的取值。 - 未傳入
reasoning_effort時,各模型的預設行為不同:例如 GPT-5.4、GPT-6 Sol 預設不推理,GPT-5 預設推理。需要推理時請明確傳入。 - 推理 token 依輸出單價計費,並計入
max_completion_tokens(Responses 為max_output_tokens)。
推理摘要
Responses 介面可回傳推理過程的摘要,Chat Completions 不回傳推理內容:
gpt_reasoning_summary.py
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"])
resp = client.responses.create(
model="openai/gpt-5.4",
reasoning={"effort": "medium", "summary": "auto"},
max_output_tokens=20000,
input="找出所有小於 50 的正整數 n,使 n² + n + 41 不是質數,並簡要說明理由。",
)
for item in resp.output:
if item.type == "reasoning":
for s in item.summary:
print("[推理摘要]", s.text)
print("[回答]", resp.output_text)output 中可能包含多個 reasoning 項目,其中部分項目的 summary 為空陣列,讀取時請逐項判斷。推理較少時可能沒有摘要。
控制回答長度
GPT-5 系列模型在 Chat Completions 中支援 verbosity,取值為 low、medium、high,用來控制回答的詳略程度。它與 max_completion_tokens 不同,不會截斷回答。
其他錯誤請見常見錯誤。
最後更新於