Einführung
OpenAI-kompatibler Chat für Gemini 3.1 Pro Preview. Ein Lesefenster von 1.000.000 Token, drei Denkstufen, 128 Tool-Schemas und JSON-Ausgabe in einem synchronen Aufruf.
Gemini 3.1 Pro Preview ist Googles Chatmodell mit langem Kontext, veröffentlicht als ein einziger OpenAI-kompatibler Endpunkt. Es liest bis zu 1.000.000 Token und antwortet in höchstens 32.768 – rund dreißig zu eins: Weltenbibel und kompletter Verlauf gehen hinein, ein stimmiger Zug kommt heraus.
Wichtige Funktionen und Highlights
Liest ein Regal, schreibt einen Absatz
1.000.000 Token hinein und 32.768 hinaus, ungefähr dreißig zu eins – und dieses Verhältnis ist die Bedienungsanleitung. Hängen Sie die Weltenbibel, die Figurenblätter und jedes bisher geschriebene Kapitel an und verlangen Sie eine einzige Antwort, die die Szene weiterbringt. Was zurückkommt, ist bewusst kurz und passt trotzdem zu jeder mitgeschickten Seite.
Der Verlauf reist unkomprimiert mit
Langes Rollenspiel driftet meistens deshalb ab, weil der Verlauf zusammengefasst werden muss, damit er hineinpasst. Ein Fenster von 1.000.000 Token streicht diesen Schritt in der Regel ganz: Schicken Sie in jedem Zug den Originaltext erneut, und das vor dreißig Kapiteln gelegte Detail steht weiterhin vor dem Modell statt in einer Umschreibung seiner selbst.
Es kann sich ohne Ankündigung ändern
Über die Lebensdauer eines Preview-Modells entscheidet Google. Verhalten, Verfügbarkeit und Preis können sich bewegen, und es kann zurückgezogen werden. Bevor es einen produktiven Verlauf trägt, sollte feststehen, auf welches Modell dieser Verlauf ausweicht.
Request-Parameter
| Parameter | Pflicht | Beschreibung |
|---|---|---|
messages | Ja | Geordnete Gesprächszüge. Der Inhalt ist ein String oder ein Array aus Text- und image_url-Teilen. mindestens 1 Einträge |
max_tokens | Nein | Deckelt die Antwort bei 32.768 – einem Dreißigstel des Lesefensters. Vorgabe 16.384. |
reasoning_effort | Nein | minimal, low, medium oder high. Vorgabe ist medium: für Routinezüge auf low senken, zum Abgleichen des Verlaufs oder zur Suche nach Widersprüchen auf high anheben. |
stop | Nein | Bis zu 4 Sequenzen, als String oder Array. Die Antwort endet, sobald das Modell eine davon schreibt; der getroffene Text selbst wird nicht zurückgegeben. mindestens 1 Zeichen · mindestens 1 Einträge · höchstens 4 Einträge |
seed | Nein | Beliebige Ganzzahl. |
temperature | Nein | 0 bis 2, Vorgabe 1. Google empfiehlt für Gemini-3-Modelle ausdrücklich, bei 1,0 zu bleiben – niedrigere Werte können zu Schleifen oder schwächerer Qualität führen. |
top_p | Nein | 0,01 bis 1. Verstellen Sie dies oder temperature, nie beides im selben Vergleich. |
tools | Nein | Bis zu 128 Funktionsdefinitionen pro Anfrage. höchstens 128 Einträge |
tool_choice | Nein | auto, none, required – oder ein Objekt, das eine Funktion benennt. |
response_format | Nein | Verlangen Sie ein JSON-Objekt und benennen Sie jeden Schlüssel in der System-Nachricht. |
Preis
Eingabe $1.90 / Ausgabe $11.40 je 1 Mio. Token; Prompts über 200K Token: Eingabe $3.80 / Ausgabe $17.10
Ab 200.000 Eingabe-Token gilt der Langkontext-Tarif für die gesamte Anfrage.
Anwendungsfälle
Eine Szene inmitten von 300.000 Wörtern fortsetzen
Schicken Sie Weltenbibel, Beziehungskarte und jedes bisher geschriebene Kapitel und verlangen Sie einen einzigen Zug. Nichts wurde abgerufen oder gesampelt, deshalb ist ein Versprechen aus dem ersten Akt noch sichtbar, während das Modell den dritten schreibt.
Kontinuitätsprüfung über Kapitel hinweg
Legen Sie Weltregeln und fertige Kapitel in dieselbe Anfrage und fragen Sie, welche Passagen ihnen widersprechen. Zurück kommt eine Liste von Widersprüchen mit Fundstellen statt einer Neufassung – viel lesen, kurz antworten, das Heimspiel dieses Verhältnisses.
Ein Urteil über einen sehr großen Dokumentenstapel
Laden Sie eine komplette Spezifikation, ein Quartal an Tickets oder ein ganzes Postfach in einen Aufruf und fragen Sie, was sich tatsächlich geändert hat. 32.768 Token reichen locker für den Befund und die Belegstellen.
Figurenstatus als JSON für Ihre Anwendung
Lassen Sie sich Aufenthaltsort, Verletzungen, Beziehungen und bekannte Geheimnisse jeder Figur als JSON-Objekt geben: response_format auf json_object, und jeder Schlüssel in der System-Nachricht benannt. Ihr Spielstand bleibt mit dem Text synchron, ganz ohne Rettungsparser.
Prompt-Leitfaden und Praxistipps
Regeln ins System, Geschichte in User
Schreiben Sie Weltregeln, gewünschten Ton und die Länge dieses Zugs in die System-Nachricht. Weltenbibel, Beziehungskarte und Verlauf kommen in eine einzige User-Nachricht, älteste zuerst, und am Ende steht die Anweisung für diesen Zug.
Verlauf komplett neu senden, nicht zusammenfassen
Das Fenster fasst 1.000.000 Token, meist mehr als ein fertiger Roman. Den Originaltext jedes Mal erneut zu schicken kostet Eingabetoken, ist aber die billigste Kontinuität, die Sie kaufen können: Es geht nichts in einer Umschreibung verloren.
Grenzen, die Sie einplanen sollten
Die Antwortgrenze liegt bei 32.768 Token – etwa einem Dreißigstel des Lesefensters. Eine Anfrage, die ein vollständiges Kapitel verlangt, läuft vor dem Ende in die Grenze, und ein max_tokens darüber scheitert direkt an der Validierung. Der Nachrichteninhalt besteht aus Text und Bildern, Video- und Audioteile werden abgelehnt. Es ist ein Preview-Modell: Google kann sein Verhalten ändern oder es abschalten, legen Sie also fest, welches Modell einspringt, bevor produktiver Verkehr darauf läuft. Ein JSON-response_format formt die Antwort, geparst und geprüft wird sie trotzdem in Ihrer Anwendung.
API-Schnellstart
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "google/gemini-3.1-pro-preview/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Authentifizierung, vollständiges Schema, Polling und Fehlerbehandlung stehen in der API-Referenz.
