Gemini 3.1 Pro API: Langer Kontext, Tools und Kosten

Sie haben eine Serienbibel mit 300 000 Token für eine Staffel einer Liebesserie für Erwachsene und eine Frage: Wo widersprechen die Szenen den Figurenblättern? Gemini 3.1 Pro Preview auf SpicyAPI kann das Ganze in einem Aufruf lesen, aber der Eingabepreis verdoppelt sich ab 200 000 Token, und der Ausgabepreis steigt um 50 %. Senden Sie eine große Anfrage als Stream, damit sie nicht das Timeout für Nicht-Streaming-Anfragen erreicht.

Gemini 3.1 Pro Preview (google/gemini-3.1-pro-preview/chat) nimmt bis zu 1 000 000 Eingabe-Token entgegen, akzeptiert Text- und image_url-Teile (keine PDF-, Video- oder Audio-Teile), unterstützt Tools und JSON-Ausgabe und antwortet mit bis zu 32 768 Token. Die Preise für langen Kontext gelten, sobald die gesamte Eingabe 200 000 Token überschreitet, und zwar für die gesamte Anfrage.

Limits und Preise

Die Preise hängen von der gesamten Eingabe in Token ab: Vergleichen Sie die Abrechnungsstufen für Standard- und langen Kontext.

Lassen Sie die Temperatur auf dem Standardwert. Google empfiehlt das für Gemini-3-Modelle, und niedrigere Werte können das Modell in Schleifen laufen lassen. Steuern Sie die Ausgabe stattdessen über response_format und die Systemnachricht.

Was ein Aufruf tatsächlich kostet

Kosten = Eingabe-Token x Eingabepreis + Ausgabe-Token x Ausgabepreis; die Stufe richtet sich nach der gesamten Eingabe (Cache-Token zählen mit). Die Beispiele verwenden Eingabe ohne Cache und insgesamt 4 000 Ausgabe-Token:

Reasoning-Token werden als Ausgabe abgerechnet und teilen sich das max_tokens-Budget. Lassen Sie bei höherem Reasoning-Aufwand Spielraum über der sichtbaren Antwort, die Sie brauchen; ein Budget von 4 000 Token garantiert keine 4 000 Token sichtbaren Text.

Ein einziges zusätzliches Token über 200 000 verdoppelt den Aufruf fast. Wenn Sie aus einem Paket mit 203 000 Token 5 000 Token alte Korrespondenz streichen, sparen Sie etwa 50 %.

Drei Dinge vervielfachen diese Zahl:

• Jede Tool-Runde sendet das Paket erneut. Eine Tool-Schleife mit drei Runden über ein Paket mit 250 000 Token kostet pro Runde etwa $0.90 Eingabe, zusammen $2.70, noch vor der Ausgabe.
• Gecachte Token sind günstiger, aber hier nicht steuerbar. Der Cache-Preis ($0.36 oberhalb der Schwelle) gilt für Eingabe, die aus dem Cache bedient wird. Beispiel: 300 000 gecachte plus 5 000 neue Token und 4 000 Ausgabe-Token kosten etwa $0.19, ohne Cache dagegen $1.16. Das Gemini-Feld cachedContent wird auf dieser Route abgelehnt; kalkulieren Sie also ohne Cache und prüfen Sie die abgerechneten Kosten nach dem ersten Lauf.
• Die Guthabenreservierung (Hold) nutzt Ihr volles max_tokens. Bevor eine Textanfrage läuft, reserviert die Plattform die Eingabe plus das volle max_tokens zum Preis des Modells: rund $4.13 für 1 000 000 Eingabe-Token und 32 768 Ausgabe-Token. Achten Sie auf den Fehlercode: 40201 bedeutet unzureichendes Guthaben für die Reservierung, 40202 ein Ausgabenlimit. Senken Sie für Ersteres ein überzogenes Ausgabebudget und prüfen Sie für Letzteres die Limits von Schlüssel und Workspace. Öffentliche Bild-URLs führen außerdem dazu, dass die Reservierung das gesamte Eingabelimit abdeckt; hochgeladene oder inline eingebettete Bilder verwenden stattdessen eine feste Bildpauschale.

Lesen Sie nach dem ersten Aufruf den Antwort-Header X-Spicy-Task-Id und rufen Sie die Aufgabe ab: Die Kosten sind endgültig, sobald settled true ist. Kalibrieren Sie damit und mit dem gestreamten usage jede spätere Schätzung.

Gehört das ganze Paket in die Anfrage?

Senden Sie das ganze Paket, wenn die Antwort von Beziehungen über das gesamte Material abhängt: eine Kontinuitätsprüfung über eine Staffel, eine „Was hat sich geändert“-Frage über alle Spezifikationen, eine Konfliktsuche zwischen Skripten und Figurenblättern. Senden Sie einen Ausschnitt, wenn die Frage nur eine Szene oder eine Figur betrifft. Eine Frage zu Maras Requisit in Szene 18 braucht das Figurenblatt und die Szenen 12 und 18, nicht die ganze Staffel.

Das Langzeitgedächtnis einer Chat-App kann sich von diesem Endpunkt unterscheiden: Die Anwendung ruft womöglich ausgewählte Passagen ab oder fasst ältere Beiträge zusammen, während die API nur die Nachrichten sieht, die mit der Anfrage gesendet werden.

Ein großes Eingabefenster garantiert nicht, dass jedes Detail gefunden wird. Mehrere verstreute Fakten zu finden ist schwerer, als einen einzelnen zu lokalisieren, und ältere Entwürfe können mit der aktuellen Fassung konkurrieren. Die Preisschwelle ist keine Genauigkeitsgrenze. Für eine fokussierte Prüfung:

• Teilen Sie eine Staffel in Handlungsbögen von bis zu 150 000 Token auf und prüfen Sie jeden gegen dieselben Figurenblätter.
• Stellen Sie die Frage und die Ausgaberegeln ans Ende, nach dem gesamten Material, wie Google es für lange Prompts empfiehlt.
• Beschriften Sie jeden Abschnitt (SCRIPT_V3 / scene 12) und verlangen Sie, dass Antworten nur gelieferte Labels zitieren. Prüfen Sie dann, ob jedes zitierte Label in Ihrem Paket existiert.
• Fragen Sie nach Konflikten und Fundstellen, nicht nach Umschreibungen. Eine Antwort mit 32 768 Token fasst ohnehin keine umgeschriebene Staffel.
• Lassen Sie überholte Entwürfe weg. Zwei Fassungen von Szene 12 in einem Paket sind genau der Weg, auf dem ein altes Requisit als aktuell zitiert wird.

Dieselbe Budgetlogik mit anderen Preisen wird im Kostenleitfaden zu Claude Sonnet 4.6 und im Claude-Opus-Leitfaden für lange Dokumente durchgerechnet.

Ein Textpaket vorbereiten

Die Route akzeptiert Text- und image_url-Teile. Für Kontinuitätsprüfungen über ein gescanntes Skript liefert OCR durchsuchbaren Text und stabile Szenenlabels: Korrigieren Sie beschädigte Namen und Szenennummern, bevor Sie das Paket bauen. Eine in eine Textnachricht eingefügte PDF-URL wird nicht als Dokument gelesen. Exportieren Sie Skript, Figurennotizen und Shotliste als Text mit stabilen Labels:

CHARACTERS_V2
Mara: 32, photographer. Keeps a copper thermos with a blue band.
Jon: 35, composer. Owns the red leather case.

SCRIPT_V3 / scene 12
Mara puts the thermos on the railway bench. Jon carries the case.

SCRIPT_V3 / scene 18
Jon offers Mara the thermos.

Vier englische Zeichen pro Token sind eine grobe Schätzung zur Vorabprüfung, kein Weg, eine Anfrage an der Schwelle zu kalkulieren: Code, Namen und nicht englischer Text werden anders in Token zerlegt. Lassen Sie reichlich Spielraum unter 200 000, beziehen Sie Systemprompt und Tool-Definitionen in Ihre Schätzung ein und vergleichen Sie mit dem zurückgegebenen usage die tatsächliche Anzahl.

Aus dem Befund eine Szenenänderung machen

In diesem Paket verortet Szene 12 die Thermoskanne zuletzt bei Mara, während Szene 18 sie ohne Übergabe Jon zuschreibt. Eine brauchbare Antwort benennt diese Lücke und bietet eine Wahl an:

• Jon holt sie vor Szene 18 sichtbar ab, wenn der Moment Aufmerksamkeit zeigen soll.
• Mara holt sie selbst ab, wenn die Szene die Distanz zwischen beiden bewahren soll.

Wählen Sie den Beziehungsmoment und lassen Sie sich dann eine Zeile schreiben, die ihn umsetzt. Der Bericht des Modells hilft, die Lücke zu finden; was die Handlung bedeutet, entscheidet weiterhin die Autorin oder der Autor. Die Prüfung sollte keine dazwischenliegende Szene erfinden und als Quellmaterial zitieren. Bei einer Serienbibel findet derselbe Ansatz Szenen, die eine Versöhnung voraussetzen, bevor das Skript sie zeigt: Fragen Sie nach dem zuletzt etablierten Beziehungsstand, der ersten widersprüchlichen Szene und dem fehlenden Übergang.

Zuerst im Playground ausprobieren

1. Öffnen Sie Gemini 3.1 Pro Preview und wechseln Sie zum Playground.
2. Fügen Sie CHARACTERSV2 und die beiden SCRIPTV3-Szenen ein. Fragen Sie, wo die Thermoskanne den Besitzer wechselt, ohne dass eine Übergabe gezeigt wird.
3. Entscheiden Sie, ob Jon oder Mara sie holt, und bitten Sie dann um eine Zeile, die diesen Moment etabliert.

Als Stream senden

Setzen Sie SPICY_API_KEY und senden Sie dasselbe Szenenpaket aus Ihrer App. Streaming vermeidet den Abbruch nicht gestreamter Anfragen am Edge nach etwa 100 Sekunden; Einzelheiten zur Umsetzung stehen im Chat-Leitfaden.

INTENT_KEY=$(uuidgen)
curl --fail-with-body -sN --max-time 600 https://api.spicyapi.ai/v1/chat/completions \
  -H "Authorization: Bearer $SPICY_API_KEY" \
  -H 'Content-Type: application/json' \
  -H "Idempotency-Key: $INTENT_KEY" \
  -D reply.headers -o reply.sse \
  -d '{
    "model": "google/gemini-3.1-pro-preview/chat",
    "stream": true,
    "stream_options": {"include_usage": true},
    "reasoning_effort": "low",
    "max_tokens": 4000,
    "response_format": {"type": "json_object"},
    "messages": [
      {"role": "system", "content": "Return JSON with conflicts and suggested_fixes arrays. Cite only supplied scene labels. Do not invent missing scenes."},
      {"role": "user", "content": "Fictional adults: Mara, 32, and Jon, 35. SCRIPT_V3 / scene 12: Mara leaves her blue-banded copper thermos on the railway bench. Jon carries his red case. SCRIPT_V3 / scene 18: Jon hands Mara the thermos. Identify any missing prop handoff."}
    ]
  }'

Ein Tool nur hinzufügen, wenn Informationen außerhalb des Pakets liegen

Halten Sie eine Figurenabfrage außerhalb des Prompts, wenn sich der maßgebliche Datensatz häufig ändert. Geben Sie dem Modell eine schmale, nur lesende Funktion wie get_character und lassen Sie die Anwendung den Datensatz zurückgeben. Begrenzen Sie die Zahl der Runden: Vier Runden über dasselbe große Paket können vier Eingabe-Lesevorgänge kosten. Für eine feste Prüfung von zwei Szenen ist es einfacher und günstiger, die Fakten in den Prompt zu schreiben.

Googles native Search- und Maps-Grounding sind eigene Integrationen; diese Chat-Route nutzt Funktionen, die Ihre Anwendung ausführt. Die Chat-Rezepte zeigen die vollständige Tool-Schleife.

Einen Agent den Aufruf vorbereiten lassen

Bitten Sie Ihren Coding-Agent für wiederholte Kontinuitätsprüfungen, den SpicyAPI Skill zu verwenden: „Lies google/gemini-3.1-pro-preview/chat und passe dann das Beispiel an meine Eingabe an; zeige mir die Anfrage, bevor du sie ausführst.“ Die Abfrage über die CLI lautet spicyapi models get google/gemini-3.1-pro-preview/chat --json; die Abfrage über MCP ist spicyapi_model_get mit model: "google/gemini-3.1-pro-preview/chat". Chat-Aufrufe nutzen einen kompatiblen Client oder die Chat-API; die Befehle für Medienaufgaben erzeugen keine Chat-Antworten.

Projekte mit Inhalten für Erwachsene

Skript-Indexierung, Kontinuitätsprüfungen und Produktionsnotizen passen gut. Explizite Prosa ist weniger zuverlässig: SpicyAPI fügt dieser Route keinen Inhaltsfilter hinzu, aber das Modell kann eine Anfrage ablehnen oder abschwächen. In unseren Tests im September 2026 wurde geschriebene Inhalte der Stufe L3 in 1 von 3 Anfragen vollständig umgesetzt, das Schreiben intimer Szenen in 4 von 9. Bei den Tests zu intimen Szenen gelang es mit Fiktionsrahmung innerhalb der Anfrage in 3 von 3 Fällen, mit einem Systemprompt allein in 1 von 3 und mit direkten Anfragen in 0 von 3. Eine Fiktionsanfrage bietet diesem Workflow einen besseren Ausgangspunkt, als sich allein auf die Systemnachricht zu verlassen, aber wählen Sie ein anderes Modell, wenn verlässliche explizite Prosa das Hauptergebnis ist. Die Einzelheiten stehen in der Rezension zu Gemini 3.1 Pro.

Häufige Fehler

Auf der Modellseite finden Sie die aktuellen Preise und können die Route im Playground ausprobieren. Es ist ein Preview-Modell; legen Sie daher fest, welches Modell übernimmt, falls es sich ändert, bevor es Produktivlast trägt.