Skip to Content
모델 사용법Gemini사고

Gemini 사고 설정

이 페이지에서는 Gemini 모델의 사고 기본값과 조절 방법을 설명합니다. 모델 ID와 엔드포인트 주소는 Gemini 시리즈 개요를 참고하십시오.

요점Flash-Lite를 제외한 Gemini 모델은 기본적으로 사고가 켜져 있어 복잡한 질문은 1분 이상 걸릴 수 있습니다. 속도가 중요한 경우 사고량을 줄이십시오.

Gemini 모델은 답변하기 전에 먼저 사고합니다. 사고에 소비된 토큰은 출력에 포함되어 출력 단가로 과금되며, 수량은 usageMetadata.thoughtsTokenCount(OpenAI 호환 API에서는 usage.completion_tokens_details.reasoning_tokens)에서 확인할 수 있습니다.

모델기본값조절 방법
Gemini 3.x(Flash-Lite 제외)사고 켜짐thinkingLevel(예: "low"). thinkingBudget(사고 토큰 상한)도 허용
Flash-Lite 시리즈(3.5, 3.1)사고하지 않음thinkingLevel 또는 thinkingBudget을 전달하면 켜짐

실측 결과 같은 수학 문제에서 thinkingLevel: "low"를 사용하면 Gemini 3.5 Flash의 사고 토큰이 약 6000에서 약 4600으로 줄었고, 소요 시간도 그만큼 단축되었습니다. thinkingBudget: 0은 3.5 Flash, 3 Flash Preview의 사고를 끌 수 있습니다. 3.1 Pro Preview, 3.8 Flash는 이 값을 전달해도 사고하며 완전히 끌 수 없습니다.

gemini_thinking.py
import os from google import genai from google.genai import types client = genai.Client( api_key=os.environ["OFOX_API_KEY"], http_options={"api_version": "v1beta", "base_url": "https://api.ofox.ai/gemini"}, ) resp = client.models.generate_content( model="google/gemini-3.8-flash", contents="n² + n + 41이 소수가 아닌 50 미만의 양의 정수 n을 모두 찾아 주세요.", config=types.GenerateContentConfig( thinking_config=types.ThinkingConfig(thinking_level="low"), ), ) print(resp.text) print("사고 토큰:", resp.usage_metadata.thoughts_token_count or 0)
  • thinkingLevel: "low"이면 모델이 간단한 질문에는 사고하지 않을 수 있으며, 이때 thoughtsTokenCount가 나타나지 않습니다.
  • 사고 과정을 보려면 thinkingConfig에 "includeThoughts": true를 추가하십시오. parts에서 "thought": true가 붙은 항목이 사고 요약이고, 나머지가 답변입니다.
  • 사고 토큰은 maxOutputTokens에 포함됩니다. 상한을 너무 작게 설정하면 답변이 중간에 잘립니다. 자주 발생하는 오류를 참고하십시오.
  • thinkingConfig는 generationConfig 안에 둡니다.
마지막 업데이트