Claude Prompt-Caching
Diese Seite beschreibt, wie Sie Prompt-Caching für Claude aktivieren und Treffer prüfen. Modell-IDs und Endpunktadressen finden Sie im Überblick zur Claude-Reihe.
Kurz gesagtBei Claude muss cache_control explizit gesetzt werden; keiner der beiden Endpunkte cacht automatisch.
Stellen Sie lange, unveränderliche Inhalte (System-Prompt, Dokumente, Tool-Definitionen) an den Anfang der Anfrage und setzen Sie cache_control am letzten festen Inhaltsblock. Folgeanfragen mit exakt identischem Präfix treffen dann den Cache.
Nativer Anthropic-Endpunkt
claude_cache.py
import os
import anthropic
client = anthropic.Anthropic(base_url="https://api.ofox.ai/anthropic", api_key=os.environ["OFOX_API_KEY"])
LONG_DOC = open("manual.txt", encoding="utf-8").read() # Ein längeres, unveränderliches Dokument
for question in ["Worum geht es in Kapitel 3?", "Fasse die Kernpunkte des gesamten Textes zusammen."]:
message = client.messages.create(
model="anthropic/claude-sonnet-4.6",
max_tokens=1024,
system=[
{"type": "text", "text": "Beantworte die Fragen anhand des folgenden Dokuments."},
{"type": "text", "text": LONG_DOC, "cache_control": {"type": "ephemeral"}},
],
messages=[{"role": "user", "content": question}],
)
u = message.usage
print("Geschrieben:", u.cache_creation_input_tokens, "Gelesen:", u.cache_read_input_tokens)Allgemeines zum Caching: Prompt-Caching.
Weitere Fehler: Häufige Fehler.
Zuletzt aktualisiert am