Gemini 3.5 Flash-Lite API

OpenAI-kompatibler Chat für Gemini 3.5 Flash-Lite. Ein Lesefenster von 1.048.576 Token, vier Denkstufen mit minimal als Vorgabe, 128 Werkzeugschemas und JSON-Ausgabe in einem synchronen Aufruf, auf Wunsch als SSE-Strom.

Gemini 3.5 Flash-Lite ist Googles kostenorientiertes Chat-Modell und hier als ein einziger OpenAI-kompatibler Endpunkt veröffentlicht. Eine Anfrage liest bis zu 1.048.576 Token und antwortet mit bis zu 65.536, und die Denkstufe steht ab Werk auf minimal – der günstigsten und schnellsten Stufe. Klassifizierung, Übersetzung und einfaches Aufbereiten von Daten laufen also auf der untersten Stufe, solange Sie nichts anderes verlangen.

Die Spur für Arbeit, die zu Tausenden hereinkommt

Wenn eine Aufgabe aus zehntausend Zeilen besteht und nicht aus einer schweren Frage, entscheidet der Preis eines einzelnen Aufrufs darüber, ob sie überhaupt läuft. Genau dafür steht dieses Modell hier: günstig genug, dass jede Zeile durch ein Modell darf, und schnell genug, dass die Warteschlange vor Ihren Augen abschmilzt.

Vier Stufen, und die günstigste ist die Vorgabe

reasoning_effort nimmt minimal, low, medium oder high und steht per Vorgabe auf minimal. Wer nichts mitschickt, kauft also die günstigste und schnellste Antwort dieses Modells; heben Sie die Stufe für die eine Anfrage an, die mehr Überlegung braucht, statt für die ganze Anbindung.

Ein ganzer Aktenstapel in einer Anfrage

Das Lesefenster fasst 1.048.576 Token. Eine lange Spezifikation, ein vollständiges Transkript oder ein Monat Protokolle gehen in einem Aufruf hinüber, statt in Fenster zerlegt und danach wieder zusammengesetzt zu werden. Eingabetoken werden weiterhin nach Messung abgerechnet – achten Sie also auf den Umfang des Materials, nicht nur auf die Zahl der Aufrufe.

Massenhafte Klassifizierung und Verschlagwortung

Tickets zuordnen, Chat-Protokolle verschlagworten, eingehende Post an Zuständige verteilen. Eine feste System-Nachricht, eine Zeile je Aufruf, die Stufe auf minimal – und die ganze Warteschlange läuft durch ein Modell statt durch einen regulären Ausdruck.

Übersetzungsläufe

Produkttexte, Support-Antworten, Katalogtexte. Anweisung und Glossar stehen in der System-Nachricht, der Ausgangstext geht in die Nutzer-Nachricht, und der Umfang ist nicht länger der Grund, es zu lassen.

Freitext in feste Felder

Verlangen Sie mit response_format ein JSON-Objekt, benennen Sie jeden Schlüssel in der System-Nachricht, und lassen Sie eine unstrukturierte Notiz in die Spalten falten, die Ihre Datenbank ohnehin hat. Parsen und Prüfen bleiben bei Ihnen.

Die stillen Schritte einer Agenten-Schleife

Die meisten Schritte eines Agenten sind nicht der interessante: eine Seite noch einmal lesen, entscheiden, ob ein Treffer passt, in einem Satz festhalten, was gerade geschehen ist. Schicken Sie diese hierher und heben Sie das teure Modell für den Schritt auf, an dem wirklich etwas entschieden wird.

curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
  -H "Authorization: Bearer $SPICY_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Idempotency-Key: $(uuidgen)" \
  -d '{
  "model": "google/gemini-3.5-flash-lite/chat",
  "messages": [
    {
      "role": "user",
      "content": "Summarise the following release notes into three bullet points."
    }
  ],
  "stream": true
}' \
  | jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'

Authentifizierung, vollständiges Schema, Polling und Fehlerbehandlung stehen in der API-Referenz.