Gemini 明示的キャッシュ（cachedContents）

from google import genai
from google.genai import types
 
client = genai.Client(
    api_key="<あなたの OFOXAI_API_KEY>",
    http_options={"api_version": "v1beta", "base_url": "https://api.ofox.ai/gemini"},
)
 
# 繰り返し使用する大きなドキュメント（最小トークン閾値に達している必要があります）
LONG_DOCUMENT = open("knowledge_base.txt").read()
 
cache = client.caches.create(
    model="google/gemini-3.1-pro-preview",
    config=types.CreateCachedContentConfig(
        contents=[LONG_DOCUMENT],
        ttl="600s",  # キャッシュは10分間存続
    ),
)
 
print(cache.name)  # cachedContents/xxxxxxxx —— 以降の参照に使うハンドル

import { GoogleGenAI } from '@google/genai'
import fs from 'node:fs'
 
const ai = new GoogleGenAI({
  apiKey: '<あなたの OFOXAI_API_KEY>',
  httpOptions: { apiVersion: 'v1beta', baseUrl: 'https://api.ofox.ai/gemini' },
})
 
const longDocument = fs.readFileSync('knowledge_base.txt', 'utf-8')
 
const cache = await ai.caches.create({
  model: 'google/gemini-3.1-pro-preview',
  config: {
    contents: [longDocument],
    ttl: '600s', // キャッシュは10分間存続
  },
})
 
console.log(cache.name) // cachedContents/xxxxxxxx —— 以降の参照に使うハンドル

curl "https://api.ofox.ai/gemini/v1beta/cachedContents" \
  -H "x-goog-api-key: $OFOX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "google/gemini-3.1-pro-preview",
    "contents": [
      { "role": "user", "parts": [{ "text": "<ここに再利用したい大きなコンテキストを入れる>" }] }
    ],
    "ttl": "600s"
  }'

response = client.models.generate_content(
    model="google/gemini-3.1-pro-preview",
    contents="上記のドキュメントに基づいて、要点を3つまとめてください",
    config=types.GenerateContentConfig(
        cached_content=cache.name,  # キャッシュを参照
    ),
)
 
print(response.text)
# キャッシュヒット：キャッシュ部分はより低い「読み取り」料金で課金されます
print(response.usage_metadata.cached_content_token_count)

const response = await ai.models.generateContent({
  model: 'google/gemini-3.1-pro-preview',
  contents: '上記のドキュメントに基づいて、要点を3つまとめてください',
  config: {
    cachedContent: cache.name, // キャッシュを参照
  },
})
 
console.log(response.text)
// キャッシュヒット：キャッシュ部分はより低い「読み取り」料金で課金されます
console.log(response.usageMetadata?.cachedContentTokenCount)

curl "https://api.ofox.ai/gemini/v1beta/models/google/gemini-3.1-pro-preview:generateContent" \
  -H "x-goog-api-key: $OFOX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "cachedContent": "cachedContents/xxxxxxxx",
    "contents": [
      { "role": "user", "parts": [{ "text": "上記のドキュメントに基づいて、要点を3つまとめてください" }] }
    ]
  }'

# 取得
info = client.caches.get(name=cache.name)
print(info.expire_time)
 
# 削除
client.caches.delete(name=cache.name)

// 取得
const info = await ai.caches.get({ name: cache.name })
console.log(info.expireTime)
 
// 削除
await ai.caches.delete({ name: cache.name })

# 取得
curl "https://api.ofox.ai/gemini/v1beta/cachedContents/xxxxxxxx" \
  -H "x-goog-api-key: $OFOX_API_KEY"
 
# 削除
curl -X DELETE "https://api.ofox.ai/gemini/v1beta/cachedContents/xxxxxxxx" \
  -H "x-goog-api-key: $OFOX_API_KEY"