Skip to Content
模型用法GPT推理

GPT 推理設定

本頁說明 GPT 系列的推理強度、推理摘要與回答長度控制;模型 ID 與介面設定請見 GPT 系列概覽。

重點推理消耗的 token 會計入輸出上限。開啟推理時請預留足夠的 max_completion_tokens,否則回答可能為空。

GPT-5 及之後的模型支援推理:先進行內部推理,再給出回答,適合數學、程式碼與多步驟分析。

項目Chat CompletionsResponses
推理強度"reasoning_effort": "high""reasoning": {"effort": "high"}
推理 token 數usage.completion_tokens_details.reasoning_tokensusage.output_tokens_details.reasoning_tokens
推理內容不回傳推理摘要,請見下文
  • 常用取值為 low、medium、high,強度越高,推理 token 越多、耗時越長。傳入模型不支援的值時會回傳 400,錯誤訊息會列出該模型支援的取值。
  • 未傳入 reasoning_effort 時,各模型的預設行為不同:例如 GPT-5.4、GPT-6 Sol 預設不推理,GPT-5 預設推理。需要推理時請明確傳入。
  • 推理 token 依輸出單價計費,並計入 max_completion_tokens(Responses 為 max_output_tokens)。

推理摘要

Responses 介面可回傳推理過程的摘要,Chat Completions 不回傳推理內容:

gpt_reasoning_summary.py
import os from openai import OpenAI client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"]) resp = client.responses.create( model="openai/gpt-5.4", reasoning={"effort": "medium", "summary": "auto"}, max_output_tokens=20000, input="找出所有小於 50 的正整數 n,使 n² + n + 41 不是質數,並簡要說明理由。", ) for item in resp.output: if item.type == "reasoning": for s in item.summary: print("[推理摘要]", s.text) print("[回答]", resp.output_text)

output 中可能包含多個 reasoning 項目,其中部分項目的 summary 為空陣列,讀取時請逐項判斷。推理較少時可能沒有摘要。

控制回答長度

GPT-5 系列模型在 Chat Completions 中支援 verbosity,取值為 low、medium、high,用來控制回答的詳略程度。它與 max_completion_tokens 不同,不會截斷回答。

其他錯誤請見常見錯誤。

最後更新於