Skip to Content
모델 사용법GPT개요

GPT 시리즈

OpenAI의 GPT 텍스트 모델로 GPT-6, GPT-5.x, GPT-4.1, GPT-4o, Codex 시리즈가 있습니다. OpenAI 호환 API로 호출하며 Chat Completions와 Responses 두 가지 API를 지원합니다. 공식 OpenAI SDK에서 base_url만 바꾸면 바로 사용할 수 있습니다.

주요 작업

추론 사용 reasoning_effort 값, 추론 토큰, 추론 요약.웹 검색 Responses API의 web_search 도구.프롬프트 캐싱 자동 캐시와 적중 확인.구조화된 출력과 PDF json_schema 출력과 PDF 파일 입력.오류 해결 컨텍스트 초과, max_tokens 과다, 빈 답변, 지원하지 않는 API.Codex에서 사용 연동 설정과 자주 묻는 질문.

모델

모든 모델이 도구 호출과 구조화된 출력을 지원하며, GPT-5 nano를 제외한 모든 모델이 이미지 입력을 지원합니다. 전체 모델 목록과 실시간 가격은 모델 페이지 를 참고하거나 Models API로 조회하십시오.

주요 모델 ID(호출 시 그대로 복사)
GPT-6 Solopenai/gpt-6-sol
GPT-5.4openai/gpt-5.4
GPT-5.4 miniopenai/gpt-5.4-mini
GPT-4.1 miniopenai/gpt-4.1-mini추론하지 않음, 간단한 작업에 적합

모델 ID에서 openai/ 접두사를 생략할 수 있습니다. 예: gpt-5.4. 응답의 model 필드는 항상 접두사가 붙은 표기로 반환됩니다.

엔드포인트 선택

요점Codex 시리즈와 GPT-5.4 Pro는 Responses API만 지원합니다. 나머지 모델은 두 API 모두 사용할 수 있습니다.
Chat CompletionsResponses
주소POST https://api.ofox.ai/v1/chat/completionsPOST https://api.ofox.ai/v1/responses
입력messagesinput(문자열 또는 메시지 배열)
출력 길이 상한max_completion_tokens(max_tokens도 허용)max_output_tokens
추론 강도reasoning_effortreasoning.effort
추론 요약반환하지 않음reasoning.summary. 추론 요약 참고
웹 검색지원하지 않음web_search 도구
이 API만 지원하는 모델—openai/gpt-5.4-pro, openai/gpt-5.3-codex, openai/gpt-5.2-codex

전체 요청 파라미터는 Chat Completions API와 Responses API를 참고하십시오.

공급자

공급자제공 모델
Azure AI Foundry(azure_foundry)전체 모델, 기본 공급자
OpenAI(openai)GPT-6 Sol, GPT-6 Luna, GPT-6 Astra, GPT-5.6 Sol, GPT-5.6 Terra, GPT-5.6 Luna

실측 결과 두 공급자는 추론, 캐시, 웹 검색에서 동일하게 동작합니다. 공급자를 지정해야 할 때는 요청 헤더에 X-OfoxAI-Provider-Type: openai를 추가하십시오. 다른 방법은 공급자 라우팅을 참고하십시오.

호출 예시

gpt_chat.py
import os
from openai import OpenAI
 
client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"])
 
resp = client.chat.completions.create(
    model="openai/gpt-5.4",
    messages=[
        {"role": "system", "content": "당신은 숙련된 백엔드 엔지니어입니다. 간결하게 답하십시오."},
        {"role": "user", "content": "멱등성이 무엇인지 한 문장으로 설명해 주세요."},
    ],
)
print(resp.choices[0].message.content)

프롬프트 캐싱

요점GPT 시리즈는 자동으로 캐시하므로 요청을 수정할 필요가 없습니다. 고정 콘텐츠를 요청 앞부분에 두면 적중률이 높아집니다.

요청의 접두부가 최근 요청과 같고 충분히 길면 자동으로 캐시가 적중하며, 적중한 부분은 캐시 읽기 단가로 과금됩니다.

항목설명
적중 확인Chat Completions에서는 usage.prompt_tokens_details.cached_tokens가 0보다 큼. Responses에서는 usage.input_tokens_details.cached_tokens
쓰기GPT-6, GPT-5.6 시리즈는 첫 요청에서 prompt_tokens_details.cache_write_tokens를 반환하며 캐시 쓰기 단가로 과금
최소 길이접두부가 너무 짧으면 캐시되지 않음. 최소 길이는 OpenAI 공식 문서  참고
안정성캐시는 최선형(best effort)이므로 접두부가 같은 요청도 적중하지 않을 수 있음

캐시에 대한 일반 설명은 프롬프트 캐싱을 참고하십시오.

Responses API의 tools에 web_search를 추가하면 모델이 스스로 검색하고 출처를 인용합니다. Chat Completions는 웹 검색을 지원하지 않습니다.

gpt_web_search.py
import os
from openai import OpenAI
 
client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"])
 
resp = client.responses.create(
    model="openai/gpt-5.4",
    tools=[{"type": "web_search"}],
    input="Python의 최신 안정 버전은 무엇입니까?",
)
print(resp.output_text)
print("검색 횟수:", sum(1 for item in resp.output if item.type == "web_search_call"))

output의 web_search_call 항목이 각각의 검색이고, message 항목이 최종 답변입니다. 검색은 횟수 단위로 과금되며, 단가는 모델 페이지 를 참고하십시오.

자주 발생하는 오류

요점파라미터 오류는 400과 함께 원인이 반환됩니다. 긴 추론에서는 가끔 502, 504가 발생하므로 스트리밍 출력을 사용하고 타임아웃을 길게 설정하십시오.
HTTP · type오류 원문원인해결 방법
400 invalid_request_errorThis model's maximum context length is 128000 tokens. However, your messages resulted in 152008 tokens.입력이 모델 컨텍스트를 초과함입력을 줄이거나 컨텍스트가 더 긴 모델로 변경
400 invalid_request_errormax_tokens is too large: 100000. This model supports at most 16384 completion tokens출력 상한이 모델이 허용하는 최댓값을 초과함max_completion_tokens를 줄임
400 invalid_request_errorInvalid value: 'bogus'. Supported values are: 'low', 'medium', 'high', and 'xhigh'.해당 모델이 지원하지 않는 reasoning_effort 값오류 메시지에 나열된 값을 사용
400 endpoint_not_supportedModel 'openai/gpt-5.4-pro' does not support the /v1/chat/completions endpoint on this platform.이 모델은 Responses API만 지원함/v1/responses를 사용
404 model_not_foundModel 'openai/gpt-9' not found모델 ID 철자가 틀렸거나 모델이 서비스 종료됨이 페이지에서 모델 ID를 복사
429 rate_limit_errorRate limit reached for the requested model. Please retry after a short delay.요청이 너무 잦음잠시 후 재시도. 속도 제한 참고
502 upstream_errorThe model service is temporarily unavailable. Please retry or switch to another model.상위 서비스를 일시적으로 사용할 수 없음잠시 후 재시도하거나 다른 모델로 변경
504 gateway_timeoutThe upstream service did not respond in time.추론 시간이 너무 길어 상위 서비스가 제한 시간 내에 응답하지 않음스트리밍 출력을 사용하거나 추론 강도를 낮춤
200, finish_reason: "length"이고 답변이 비어 있음—추론이 max_completion_tokens를 모두 소진함max_completion_tokens를 늘리거나 추론 강도를 낮춤

기타 일반 오류는 오류 처리를 참고하십시오.

공식 문서

공식 문서는 OpenAI에 직접 연결할 때의 동작을 설명합니다. OfoxAI에서 호출할 때는 모델 ID와 엔드포인트 주소를 이 페이지 기준으로 사용하십시오.

자주 묻는 질문

GPT 모델 ID는 어떻게 작성합니까?

표준 표기법은 openai/gpt-5.4이며, openai/ 접두사를 생략해 gpt-5.4로 써도 됩니다.

Chat Completions와 Responses 중 무엇을 사용해야 합니까?

둘 다 사용할 수 있습니다. Codex 시리즈와 GPT-5.4 Pro는 Responses만 지원하며, 추론 요약이나 웹 검색이 필요할 때도 Responses를 사용해야 합니다. 이미 Chat Completions 코드가 있는 프로젝트는 그대로 사용해도 됩니다.

GPT에서 추론은 어떻게 켭니까?

Chat Completions에서는 reasoning_effort(예: "high")를, Responses에서는 reasoning: {"effort": "high"}를 전달합니다. 일부 모델은 기본적으로 추론하지 않으므로 필요하면 명시적으로 전달하십시오.

GPT가 빈 내용을 반환하고 finish_reason이 length입니다.

추론에 소비된 토큰은 max_completion_tokens에 포함되며, 추론이 한도를 모두 소진하면 답변이 출력되지 않습니다. max_completion_tokens를 늘리거나 reasoning_effort를 낮추십시오.

does not support the /v1/chat/completions endpoint 오류가 납니다.

해당 모델은 Responses API만 지원합니다. 예: gpt-5.4-pro, gpt-5.3-codex, gpt-5.2-codex. POST /v1/responses를 사용하십시오.

GPT의 추론 과정을 볼 수 있습니까?

Responses API에서 reasoning: {"effort": "medium", "summary": "auto"}를 전달하면 output의 reasoning 항목에 추론 요약이 포함됩니다. Chat Completions는 추론 내용을 반환하지 않습니다.

GPT로 웹 검색을 할 수 있습니까?

가능합니다. Responses API에서 tools에 {"type": "web_search"}를 추가하십시오. Chat Completions는 웹 검색을 지원하지 않습니다.

GPT의 프롬프트 캐싱은 직접 켜야 합니까?

그럴 필요가 없습니다. 접두부가 충분히 길고 최근 요청과 같으면 자동으로 적중하며, 적중량은 usage의 cached_tokens에서 확인할 수 있습니다.

GPT 요청이 타임아웃되거나 504가 반환되면 어떻게 합니까?

높은 강도의 추론은 시간이 오래 걸릴 수 있습니다. 스트리밍 출력(stream: true)을 사용하고 클라이언트 타임아웃을 600초 이상으로 설정하거나 reasoning_effort를 낮추십시오.

마지막 업데이트
추론