Skip to Content
Erste SchritteLimits und Zugriff

Limits und Zugriff

Unter Einstellungen → Limits und Zugriff (Settings → Limits & access) in der Konsole verwalten Sie Budgets und Zugriffsregeln für das gesamte Team an einer Stelle. So vermeiden Sie unerwartete Kosten und verhindern Missbrauch, falls ein API Key einmal geleakt wird.

RegelWirkungWo einstellen
AusgabenlimitAufrufe stoppen, sobald das Limit erreicht istTeam, Mitglieder: Limits und Zugriff; Key: API Keys
IP-AllowlistNur bestimmte Server dürfen aufrufenTeam: Limits und Zugriff; Key: Key-Menü IP-Allowlist (IP Whitelist)
Erlaubte ModelleFestlegen, welche Modelle aufgerufen werden dürfenTeam: Limits und Zugriff; Key: Key-Menü Erlaubte Modelle (Allowed models)
AnfragerateAnfragen pro Minute, die sich alle Keys des Teams teilenNur Ansicht, siehe Ratenlimits

Nur Team-Owner und Admins können diese Regeln ändern. Jede Änderung wird im Änderungsverlauf (Change history) oben rechts auf der Seite festgehalten.

Ausgabenlimits

Budgets gibt es auf drei Ebenen: Team, Mitglied und API Key. Als Zeitraum wählen Sie Täglich (Daily), Monatlich (Monthly) oder Gesamt (Total).

  • Team-Budget: Ausgabenobergrenze für das ganze Team
  • Standard-Budget für Mitglieder: wird für jedes Mitglied einzeln berechnet; hat ein Mitglied ein eigenes Budget, gilt dieses
  • Key-Budget: wird auf der Seite API Keys für einen einzelnen Key festgelegt

Die drei Ebenen werden getrennt berechnet. Ist eine beliebige Ebene ausgeschöpft, wird die Anfrage blockiert. Im selben Zeitraum darf ein Key-Budget das Budget seines Mitglieds nicht übersteigen und ein Mitgliederbudget nicht das Team-Budget.

Für jedes Budget wählen Sie, was passieren soll:

ModusBei Erreichen des Limits
Benachrichtigen und blockieren (Notify and block)E-Mail-Benachrichtigung und Aufrufe werden gestoppt
Nur benachrichtigen (Notify only)Nur E-Mail-Benachrichtigung, keine Blockierung

Ist ein Budget ausgeschöpft, stellt eine Aufladung die Aufrufe nicht wieder her. Erhöhen Sie das Limit oder warten Sie, bis der tägliche / monatliche Zeitraum zurückgesetzt wird.

IP-Allowlist

Nur bestimmte IPv4-Adressen oder CIDR-Bereiche dürfen aufrufen, bis zu 100 Einträge. Anfragen von Adressen außerhalb der Liste werden abgelehnt.

  • Team-IP-Allowlist: gilt für alle API Keys des Teams
  • Key-IP-Allowlist: schränkt einen einzelnen Key zusätzlich zur Team-Liste weiter ein; Adressen in der Key-Liste wirken nur, wenn sie auch in der Team-Liste stehen

Ideal, um Produktions-Keys an Ihre eigenen Server zu binden: Selbst wenn ein Key geleakt wird, kann ihn niemand von anderswo aus nutzen.

Erlaubte Modelle

Für das Team stehen drei Modi zur Wahl; Modelle lassen sich auch gesammelt nach Anbieter auswählen:

ModusBeschreibung
Alle Modelle (All models)Alle Modelle dürfen aufgerufen werden, auch künftig neu hinzukommende
Nur diese Modelle (Only these models)Nur Modelle aus der Liste dürfen aufgerufen werden; künftig neu hinzukommende ebenfalls nicht
Diese Modelle sperren (Block these models)Modelle aus der Liste dürfen nicht aufgerufen werden, alle anderen sind nicht betroffen

Einzelne Keys lassen sich im Key-Menü unter Erlaubte Modelle (Allowed models) weiter einschränken. Team- und Key-Regeln gelten gleichzeitig: Aufrufbar sind nur Modelle, die beide Seiten erlauben.

Wirksame Regeln prüfen

Für einen Key gelten die Regeln auf Team- und auf Key-Ebene zugleich. Klicken Sie unter API Keys im Key-Menü auf Wirksame Regeln prüfen (Check effective rules) und wählen Sie ein Modell: Sie sehen, ob dieser Aufruf blockiert würde, durch welche Regel und wie viel Budget noch übrig ist. Die Prüfung verbraucht kein Guthaben.

Antworten bei blockierten Anfragen

Anfragen, die von einem Budget oder einer Zugriffsregel blockiert werden, gelingen auch bei Wiederholung nicht. Passen Sie zuerst die Regel an:

StatuscodeFehlercodeUrsacheLösung
402spending_limit_exceededAusgabenlimit von Team, Mitglied oder Key überschrittenLimit erhöhen oder Zurücksetzen des Zeitraums abwarten
402insufficient_creditsGuthaben nicht ausreichendGuthaben aufladen
403ip_not_allowedAufrufende IP steht nicht in der IP-AllowlistIP in die IP-Allowlist von Team oder Key aufnehmen
403model_not_allowedTeam oder Key erlaubt dieses Modell nichtAnderes Modell nutzen oder erlaubte Modelle anpassen
503spending_limit_check_unavailableBudget kann vorübergehend nicht geprüft werdenSpäter erneut versuchen

Blockierte Anfragen erscheinen unter Aktivität (Activity) im Filter Blockiert (Blocked). Alle Fehlercodes finden Sie unter Fehlerbehandlung.

Änderungsverlauf

Wer wann was an IP-Allowlist, erlaubten Modellen und Budgets geändert hat, können Sie unter Limits und Zugriff oben rechts im Änderungsverlauf (Change history) nachlesen. Einstellungen der Log-Aufbewahrung werden hier nicht erfasst, siehe Anfrage-Logs.

Zuletzt aktualisiert am