Anleitungen

Sobald die API funktioniert, finden Sie hier die passende Anleitung für Ihr Vorhaben. Jede Anleitung enthält lauffähige Beispiele; welche Protokolle abgedeckt sind, ist auf der jeweiligen Seite angegeben.

Grundfunktionen

Steuern Sie, wie das Modell antwortet: schrittweise Ausgabe, Aufruf Ihrer Funktionen, Rückgabe in festem Format, Verstehen von Bildern.

Ich möchte …	Anleitung	Kernpunkte
Antworten schrittweise anzeigen, ohne auf die vollständige Generierung zu warten	Streaming	SSE-Übertragung; inklusive Wiederverbindung und Function Calling beim Streaming
Das Modell meine Funktionen oder externe APIs aufrufen lassen	Function Calling	`tools` definieren; parallele Aufrufe und `tool_choice` werden unterstützt
Die Ausgabe auf JSON festlegen	Strukturierte Ausgabe	JSON Mode und Einschränkung per JSON Schema
Das Modell Bilder auswerten lassen	Bildverständnis	Bild-URL oder Base64, Vergleich mehrerer Bilder möglich

Kosten und Stabilität

Dieselben Anfragen günstiger ausführen und bei Problemen ohne Unterbrechung weiterarbeiten.

Ich möchte …	Anleitung	Kernpunkte
Kosten senken, wenn lange Prompts wiederholt gesendet werden	Prompt-Caching	Wiederholte Präfixe cachen, Token-Kosten und Latenz senken
Umfangreichen Gemini-Kontext über Anfragen hinweg wiederverwenden	Explizites Caching	cachedContents aktiv erstellen und referenzieren, zuverlässigere Treffer
Festlegen, welcher Anbieter die Anfrage verarbeitet	Anbieter-Routing	Standardmäßig automatisches Routing; bei Bedarf mit `provider.type` festlegen
Bei Fehlern des Hauptmodells automatisch auf ein Ersatzmodell wechseln	Failover	`provider.fallback`, höchstens 3 Ersatzmodelle

Bei Fehlern

Wenn Anfragen fehlschlagen, begrenzt oder blockiert werden, beginnen Sie hier.

Problem	Anleitung	Kernpunkte
Fehlermeldung — wie behandeln, erneut versuchen oder nicht?	Fehlerbehandlung	Statuscodes, Fehlerformat, exponentielles Backoff und Timeouts
429 Too Many Requests	Ratenbegrenzung	Standardmäßig 100 RPM, pro Team zusammengefasst; Wartezeit anhand der Antwort-Header bestimmen
Anfrage von der Inhaltssicherheit blockiert oder pausiert	Inhaltssicherheit	Auslöseregeln, Dauer der Pause und Wiederherstellung

SDKs und Frameworks

Binden Sie OfoxAI im Code über vorhandene SDKs oder Frameworks an; geändert werden nur API-Adresse und Key.

Ich verwende …	Anleitung
Das offizielle OpenAI SDK (bestehendes Projekt migrieren)	OpenAI SDK
LangChain	LangChain
LlamaIndex	LlamaIndex