Einführung
GLM 5.3 Flash ist das Langkontext-Chatmodell von Z.ai und steht hier als ein OpenAI-kompatibler Endpunkt unter /v1/chat/completions bereit. Es liest bis zu 1.048.576 Token in höchstens 256 Nachrichten und antwortet mit bis zu 131.072, die Denkstufe kennt low, high und max.
Standard ist max. temperature (0 bis 1) und top_p werden akzeptiert, response_format liefert JSON-Objekte, pro Anfrage lassen sich bis zu 128 Tools deklarieren, Nachrichten enthalten Text, Bilder und Video, und auf Wunsch kommen Antworten per Server-Sent Events als Stream.
Wichtige Funktionen und Highlights
Drei Stufen für das Nachdenken
low, high und max stehen im selben Request-Body. low passt zum Auszeichnen und Extrahieren über einen großen Export, high zum Review, und max – der Standard – ist für Antworten, die halten müssen. Der Wechsel ändert einen String, nicht die Integration.
Eine Million Token hinein, ein Befund heraus
Das Fenster fasst 1.048.576 Token, eine Antwort reicht bis 131.072, etwa acht zu eins. Genau so sieht es aus, einen Export, ein Protokollarchiv oder einen Dokumentensatz zu lesen und Labels, eine Übersichtstabelle oder eine Befundliste zurückzugeben, statt das Gesendete neu zu schreiben.
Strukturierte Ausgabe für Pipelines
response_format mit json_object liefert ein Objekt, das Ihr Code parsen kann, und bis zu 128 Tools lassen das Modell Ihre Systeme aufrufen. Benennen Sie jeden Schlüssel in der System-Nachricht, damit die Form über Läufe stabil bleibt, und prüfen Sie das Ergebnis, bevor nachgelagerte Schritte darauf reagieren.
Request-Parameter
| Parameter | Pflicht | Beschreibung |
|---|---|---|
messages | Ja | Höchstens 256 geordnete Züge. Der Inhalt ist ein String oder ein Array aus text-, image_url- und video_url-Teilen. mindestens 1 Einträge · höchstens 256 Einträge |
reasoning_effort | Nein | low, high oder max. |
stop | Nein | Eine Sequenz, als String oder als Array mit einem Eintrag – Z.ai wertet nur eine aus. mindestens 1 Zeichen · mindestens 1 Einträge · höchstens 1 Einträge |
max_tokens | Nein | Deckelt die Antwort bei 131.072 – einem Achtel des Lesefensters. Vorgabe 32.768. |
temperature | Nein | 0 bis 1, Vorgabe 1. Auf 0 halten, sobald die Antwort von Code geparst wird. |
top_p | Nein | 0,01 bis 1, Vorgabe 0,95. Verstellen Sie dies oder temperature, nie beides im selben Vergleich. |
tools | Nein | Bis zu 128 Funktionsdefinitionen pro Anfrage. höchstens 128 Einträge |
tool_choice | Nein | auto, none, required – oder ein Objekt, das eine Funktion benennt. |
response_format | Nein | Verlangen Sie ein JSON-Objekt und benennen Sie jeden Schlüssel in der System-Nachricht. |
Preis
Eingabe $0.1275 / Ausgabe $0.425 je 1 Mio. Token
Anwendungsfälle
Ticket-Triage auf low
Schicken Sie einen kompletten Ticket-Export mit festem Label-Satz und verlangen Sie pro Ticket ein Label als JSON. Auf low bleibt der Lauf günstig, und nur die Tickets, die Ihre Prüfung ablehnt, gehen auf high erneut raus.
Fragen über ein ganzes Protokollarchiv
Laden Sie Besprechungs- oder Support-Protokolle aus mehreren Monaten in eine Anfrage und fragen Sie, wo eine Entscheidung fiel und wer widersprach – mit Zitaten. Weil nichts in Häppchen zerlegt wurde, kann die Antwort eine Zeile aus dem März und eine aus dem Juli zusammen zitieren.
Assistenten mit Tool-Aufrufen
Deklarieren Sie die Funktionen, die Ihr Assistent nutzen darf – suchen, anlegen, ändern –, und lassen Sie tool_choice entscheiden, wann sie aufgerufen werden. Die Ergebnisse kommen als Nachrichten mit der Rolle tool zurück, der gesamte Austausch bleibt in einem Gespräch.
Prompt-Leitfaden und Praxistipps
Die Stufen nur dort hochgehen, wo es nötig ist
Lassen Sie den ersten Durchgang auf low laufen, senden Sie, was die Validierung nicht besteht, auf high erneut, und heben Sie max für die wenigen Fälle auf, die dann noch strittig sind. Halten Sie die Nachrichten zwischen den Durchgängen identisch, damit die Denkstufe die einzige Variable bleibt.
Ein Labeling-Aufruf zum Kopieren
POST https://api.spicyapi.ai/v1/chat/completions mit {"model": "zai/glm-5.3-flash", "messages": [{"role": "system", "content": "Label each ticket with one of: billing, access, bug, feature. Return JSON: {\"labels\": [{\"id\": ..., \"label\": ...}]}."}, {"role": "user", "content": "<the ticket export>"}], "reasoning_effort": "low", "max_tokens": 20000, "response_format": {"type": "json_object"}}. Parsen Sie das Objekt, prüfen Sie, ob jede ID zurückkam, und senden Sie die fehlenden erneut.
Budget und Grenzen
max_tokens steht standardmäßig auf 32.768, und Reasoning-Token werden ebenfalls als Ausgabe abgerechnet – lassen Sie also Luft über der erwarteten Antwort; Werte über 131.072 scheitern an der Validierung. Audio- und Dateiteile werden abgelehnt, und ein JSON-response_format formt die Antwort, ersetzt aber nicht Ihr eigenes Parsen.
API-Schnellstart
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "zai/glm-5.3-flash/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Authentifizierung, vollständiges Schema, Polling und Fehlerbehandlung stehen in der API-Referenz.
