Gemini 사고 설정
이 페이지에서는 Gemini 모델의 사고 기본값과 조절 방법을 설명합니다. 모델 ID와 엔드포인트 주소는 Gemini 시리즈 개요를 참고하십시오.
요점Flash-Lite를 제외한 Gemini 모델은 기본적으로 사고가 켜져 있어 복잡한 질문은 1분 이상 걸릴 수 있습니다. 속도가 중요한 경우 사고량을 줄이십시오.
Gemini 모델은 답변하기 전에 먼저 사고합니다. 사고에 소비된 토큰은 출력에 포함되어 출력 단가로 과금되며, 수량은 usageMetadata.thoughtsTokenCount(OpenAI 호환 API에서는 usage.completion_tokens_details.reasoning_tokens)에서 확인할 수 있습니다.
실측 결과 같은 수학 문제에서 thinkingLevel: "low"를 사용하면 Gemini 3.5 Flash의 사고 토큰이 약 6000에서 약 4600으로 줄었고, 소요 시간도 그만큼 단축되었습니다. thinkingBudget: 0은 3.5 Flash, 3 Flash Preview의 사고를 끌 수 있습니다. 3.1 Pro Preview, 3.8 Flash는 이 값을 전달해도 사고하며 완전히 끌 수 없습니다.
Python(google-genai)
gemini_thinking.py
import os
from google import genai
from google.genai import types
client = genai.Client(
api_key=os.environ["OFOX_API_KEY"],
http_options={"api_version": "v1beta", "base_url": "https://api.ofox.ai/gemini"},
)
resp = client.models.generate_content(
model="google/gemini-3.8-flash",
contents="n² + n + 41이 소수가 아닌 50 미만의 양의 정수 n을 모두 찾아 주세요.",
config=types.GenerateContentConfig(
thinking_config=types.ThinkingConfig(thinking_level="low"),
),
)
print(resp.text)
print("사고 토큰:", resp.usage_metadata.thoughts_token_count or 0)thinkingLevel: "low"이면 모델이 간단한 질문에는 사고하지 않을 수 있으며, 이때thoughtsTokenCount가 나타나지 않습니다.- 사고 과정을 보려면
thinkingConfig에"includeThoughts": true를 추가하십시오.parts에서"thought": true가 붙은 항목이 사고 요약이고, 나머지가 답변입니다. - 사고 토큰은
maxOutputTokens에 포함됩니다. 상한을 너무 작게 설정하면 답변이 중간에 잘립니다. 자주 발생하는 오류를 참고하십시오. thinkingConfig는generationConfig안에 둡니다.
마지막 업데이트