GPT-6 Luna

GPT-6 Luna von OpenAI ist ein Chatmodell und unterstützt zugleich typisierte Entscheidungen über die Decisions API. Der Entscheidungsmodus wird genauso verwendet wie Jev: Die Anfrage enthält den zu bewertenden Inhalt und eine Reihe von Fragen; das Modell liefert für jede Frage eine strukturierte Antwort mit Wahrscheinlichkeit. Im Unterschied zu Jev unterstützt GPT-6 Luna Bildeingaben.

Diese Seite beschreibt die Verwendung von GPT-6 Luna im Entscheidungsmodus. Die Verwendung im Chatmodus ist unter GPT-Reihe beschrieben.

Wahl zwischen GPT-6 Luna und Jev

Für dieselben Fragen stimmen die Ergebnisse beider Modelle im Wesentlichen überein: Bei demselben Erstattungsticket stuften in der Messung beide Modelle die Anfrage als Erstattungsantrag ein und wiesen sie billing zu.

Schnellstart

Für den Aufruf mit dem offiziellen OpenAI Python SDK ist eine Version erforderlich, die client.decisions enthält (pip install -U openai; getestet mit 3.31.0). Die Erstellung eines API Key ist unter Jev · Schnellstart beschrieben.

import os
from openai import OpenAI
 
client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"])
 
r = client.decisions.create(
    model="openai/gpt-6-luna",
    input="Customer message: I was charged twice and need a refund today.",
    questions=[
        {"type": "predicate", "name": "refund", "instructions": "Is the customer asking for a refund?"},
        {
            "type": "choice",
            "name": "team",
            "instructions": "Which team should handle this ticket?",
            "choices": [
                {"value": "billing", "description": "Charges, invoices, refunds"},
                {"value": "technical", "description": "Outages, errors, integration issues"},
                {"value": "other", "description": "None of the above"},
            ],
        },
    ],
)
refund, team = r.answers
print(refund.probability, team.choice, team.confidence)

Ausgabe:

1.0 billing 1.0

Bildentscheidungen

Bei der Übergabe von Bildern muss input ein Nachrichten-Array sein; das Bild wird in content als input_image in Form einer base64-Data-URL übergeben. Zusätzlich kann ein input_text mit Angaben zur Herkunft des Bildes übergeben werden.

import base64
import os
from openai import OpenAI
 
client = OpenAI(base_url="https://api.ofox.ai/v1", api_key=os.environ["OFOX_API_KEY"])
 
with open("product.jpg", "rb") as f:
    image = "data:image/jpeg;base64," + base64.b64encode(f.read()).decode()
 
r = client.decisions.create(
    model="openai/gpt-6-luna",
    input=[{
        "role": "user",
        "content": [
            {"type": "input_text", "text": "Product image uploaded by a user"},
            {"type": "input_image", "image_url": image},
        ],
    }],
    questions=[
        {"type": "predicate", "name": "has_text", "instructions": "Does the image contain any text?"},
        {
            "type": "choice",
            "name": "shape",
            "instructions": "What shape is on the left side of the image?",
            "choices": [{"value": "circle"}, {"value": "square"}, {"value": "triangle"}, {"value": "other"}],
        },
    ],
)
for a in r.answers:
    print(a.name, getattr(a, "probability", None) or a.choice)
print(r.usage.prompt_tokens)

Ausgabe:

has_text 1.0
shape circle
538

Das Beispielbild zeigt einen roten Kreis, ein blaues Quadrat und eine Textzeile auf weißem Hintergrund; beide Fragen wurden korrekt beantwortet. Die Felddefinitionen finden Sie unter Decisions API · Eingabeformat.

Fragendesign und Produktionsvorbereitung

Die folgenden Inhalte der Jev-Dokumentation gelten ebenso für GPT-6 Luna:

• Fragendesign: Abdeckung aller Fälle durch die Optionen, Beschreibungen für Optionen, Festlegung von name für Fragen sowie die Bedeutung der Rückgabefelder.
• Produktionsvorbereitung: Festlegung der Konfidenzschwelle anhand manuell annotierter Stichproben und Zusammenfassung mehrerer Fragen in einer Anfrage.

Abrechnung

Entscheidungsmodus und Chatmodus werden getrennt abgerechnet; die Preise für den Entscheidungsmodus sind auf der Modellseite  angegeben. Gemessen enthält das von Entscheidungsanfragen zurückgegebene usage ausschließlich prompt_tokens (einschließlich des Bildanteils) und kein completion_tokens.

Häufige Fehler

Fehlermeldungen und deren Behebung finden Sie unter Jev · Häufige Fehler und Decisions API · Häufige Fehler. Die Fehler im Zusammenhang mit Bildeingaben an Jev gelten nicht für GPT-6 Luna.

Offizielle Dokumentation

• OpenAI · Decisions 

Häufig gestellte Fragen