Skip to Content
模型用法GPT概览

GPT 系列

OpenAI 的 GPT 文本模型,包括 GPT-6、GPT-5.x、GPT-4.1、GPT-4o 与 Codex 系列。通过 OpenAI 兼容接口调用,支持 Chat Completions 与 Responses 两种接口,官方 OpenAI SDK 修改 base_url 即可使用。

常见任务

模型

全部模型支持工具调用与结构化输出;除 GPT-5 nano 外均支持图片输入。完整的模型列表与实时价格请参阅模型页 ,也可通过 Models API 查询。

常用模型 ID(调用时原样复制)
GPT-6 Solopenai/gpt-6-sol
GPT-5.4openai/gpt-5.4
GPT-5.4 miniopenai/gpt-5.4-mini
GPT-4.1 miniopenai/gpt-4.1-mini不推理,适合简单任务

模型 ID 可省略 openai/ 前缀,例如 gpt-5.4。响应中的 model 字段统一为带前缀的写法。

接口选择

要点Codex 系列与 GPT-5.4 Pro 仅支持 Responses 接口;其余模型两种接口均可使用。
Chat CompletionsResponses
地址POST https://api.ofox.ai/v1/chat/completionsPOST https://api.ofox.ai/v1/responses
输入messagesinput(字符串或消息数组)
输出长度上限max_completion_tokens(也接受 max_tokens)max_output_tokens
推理强度reasoning_effortreasoning.effort
推理摘要不返回reasoning.summary,见推理摘要
联网搜索不支持web_search 工具
仅支持此接口的模型—openai/gpt-5.4-pro、openai/gpt-5.3-codex、openai/gpt-5.2-codex

完整的请求参数见 Chat Completions API 与 Responses API。

供应商

供应商提供的模型
Azure AI Foundry(azure_foundry)全部模型,默认供应商
OpenAI(openai)GPT-6 Sol、GPT-6 Luna、GPT-6 Astra、GPT-5.6 Sol、GPT-5.6 Terra、GPT-5.6 Luna

实测两个供应商在推理、缓存与联网搜索上的表现一致。需要指定供应商时,在请求头中加入 X-OfoxAI-Provider-Type: openai,其他方式见供应商路由。

调用示例

gpt_chat.py
import os from openai import OpenAI client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"]) resp = client.chat.completions.create( model="openai/gpt-5.4", messages=[ {"role": "system", "content": "你是一名资深后端工程师,回答简洁。"}, {"role": "user", "content": "用一句话解释什么是幂等性。"}, ], ) print(resp.choices[0].message.content)

提示缓存

要点GPT 系列自动缓存,无需修改请求;将固定内容放在请求开头即可提高命中率。

请求的前缀与近期请求一致且足够长时,会自动命中缓存,命中部分按缓存读取单价计费。

项目说明
确认命中Chat Completions 中 usage.prompt_tokens_details.cached_tokens 大于 0;Responses 中为 usage.input_tokens_details.cached_tokens
写入GPT-6、GPT-5.6 系列首次请求时返回 prompt_tokens_details.cache_write_tokens,按缓存写入单价计费
最小长度前缀过短时不会缓存,最小长度见 OpenAI 官方文档 
稳定性缓存为尽力而为,前缀相同的请求也可能未命中

缓存的通用说明见提示缓存。

在 Responses 接口的 tools 中加入 web_search,模型会自行发起搜索并引用来源。Chat Completions 不支持联网搜索。

gpt_web_search.py
import os from openai import OpenAI client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"]) resp = client.responses.create( model="openai/gpt-5.4", tools=[{"type": "web_search"}], input="Python 最新的稳定版本是多少?", ) print(resp.output_text) print("搜索次数:", sum(1 for item in resp.output if item.type == "web_search_call"))

output 中的 web_search_call 条目为每次搜索,message 条目为最终回答。搜索按次计费,单价见模型页 。

常见报错

要点参数错误返回 400 并说明原因;长时间推理偶发 502、504,建议使用流式输出并设置较长的超时。
HTTP · type报错原文原因处理方法
400 invalid_request_errorThis model's maximum context length is 128000 tokens. However, your messages resulted in 152008 tokens.输入超过模型上下文缩短输入,或改用上下文更长的模型
400 invalid_request_errormax_tokens is too large: 100000. This model supports at most 16384 completion tokens输出上限超过模型允许的最大值减小 max_completion_tokens
400 invalid_request_errorInvalid value: 'bogus'. Supported values are: 'low', 'medium', 'high', and 'xhigh'.reasoning_effort 取值不受该模型支持改用报错信息中列出的取值
400 endpoint_not_supportedModel 'openai/gpt-5.4-pro' does not support the /v1/chat/completions endpoint on this platform.该模型仅支持 Responses 接口改用 /v1/responses
404 model_not_foundModel 'openai/gpt-9' not found模型 ID 拼写错误或模型已下线从本页复制模型 ID
429 rate_limit_errorRate limit reached for the requested model. Please retry after a short delay.请求过于频繁稍后重试,见速率限制
502 upstream_errorThe model service is temporarily unavailable. Please retry or switch to another model.上游服务暂时不可用稍后重试,或改用其他模型
504 gateway_timeoutThe upstream service did not respond in time.推理时间过长,上游未在时限内响应使用流式输出,或降低推理强度
200,finish_reason: "length" 且回答为空—推理用尽了 max_completion_tokens增大 max_completion_tokens,或降低推理强度

其他通用错误见错误处理。

官方文档

官方文档描述的是直连 OpenAI 时的行为。在 OfoxAI 上调用时,模型 ID 与接口地址以本页为准。

常见问题

GPT 的模型 ID 怎么写?

标准写法为 openai/gpt-5.4,也可以省略 openai/ 前缀写成 gpt-5.4。

Chat Completions 和 Responses 用哪个?

两者均可。Codex 系列与 GPT-5.4 Pro 仅支持 Responses;需要推理摘要或联网搜索时也需使用 Responses。已有 Chat Completions 代码的项目可继续使用。

GPT 怎么开启推理?

Chat Completions 传 reasoning_effort(如 "high"),Responses 传 reasoning: {"effort": "high"}。部分模型默认不推理,需要时请显式传入。

GPT 返回的内容为空,finish_reason 是 length?

推理消耗的 token 计入 max_completion_tokens,推理用尽额度后不会再输出回答。请增大 max_completion_tokens,或降低 reasoning_effort。

报错 does not support the /v1/chat/completions endpoint?

该模型仅支持 Responses 接口,例如 gpt-5.4-pro、gpt-5.3-codex、gpt-5.2-codex。请改用 POST /v1/responses。

GPT 能看到推理过程吗?

使用 Responses 接口并传入 reasoning: {"effort": "medium", "summary": "auto"},output 中的 reasoning 条目会包含推理摘要。Chat Completions 不返回推理内容。

GPT 能联网搜索吗?

可以,使用 Responses 接口并在 tools 中加入 {"type": "web_search"}。Chat Completions 不支持联网搜索。

GPT 的提示缓存需要手动开启吗?

不需要,前缀足够长且与近期请求一致时会自动命中,命中量见 usage 中的 cached_tokens。

GPT 请求超时或返回 504 怎么办?

高强度推理可能耗时较长。建议使用流式输出(stream: true),将客户端超时设置为 600 秒以上,或降低 reasoning_effort。

最后更新于