Einführung
Ling 3.1 Flash ist ein Hybrid-Reasoning-Modell im Mixture-of-Experts-Design von inclusionAI, veröffentlicht am 29. September 2026. Der Hersteller gibt insgesamt 560B Parameter an, von denen pro Token 25B aktiv sind. Hier steht es als ein OpenAI-kompatibler Chat-Endpunkt bereit: bis zu 262,144 Tokens Text als Eingabe, bis zu 262,144 Tokens Ausgabe, Tools und Streaming bei jeder Anfrage.
| Feld | Wert |
|---|---|
| Eingabe | Text |
| Ausgabe | Text |
| Eingabebudget | 262,144 tokens |
| Obergrenze für max_tokens | 262,144 |
| Eingaben | Text |
Wichtige Funktionen und Highlights
Ein sehr großes Modell, von dem nur ein Teil läuft
inclusionAI beschreibt Ling 3.1 Flash auf der Modellkarte als hybrid-lineares Mixture-of-Experts: insgesamt 560B Parameter, wobei pro Token acht von 512 gerouteten Experten plus ein geteilter Experte aktiv sind, also etwa 25B Parameter. Genau darauf zielt der Name Flash: ein großes Modell, das im Tempo eines deutlich kleineren antworten soll.
Denken, wenn es hilft, überspringen, wenn nicht
reasoning_effort akzeptiert none, low, medium oder high; Standard ist medium. Verwenden Sie none oder low für Klassifikation, Extraktion und kurze Chat-Antworten, wenn die Latenz zählt, und gehen Sie bei mehrstufigen Problemen auf high. Der Hersteller bezeichnet das Modell als nativ hybrides Reasoning-Modell, sodass ein Endpunkt beide Arten abdeckt.
Eine Viertelmillion Tokens in einer Anfrage
262,144 Eingabe-Tokens entsprechen etwa 190,000 englischen Wörtern – genug für einen langen Vertrag, einen Support-Verlauf samt eingefügter Anhänge als Text oder ein mittelgroßes Code-Modul. Die Modellkarte nennt für das offene Modell ein Fenster von 1M Tokens; dieser Endpunkt akzeptiert 262,144, und mit diesem Wert sollte man planen.
Tool-Aufrufe und Streaming im selben Aufruf
Senden Sie bis zu 128 Tool-Definitionen, lassen Sie das Modell einen Funktionsaufruf zurückgeben, führen Sie ihn in Ihrer Anwendung aus und senden Sie das Ergebnis als Tool-Nachricht zurück. Antworten werden gestreamt, während sie entstehen, und mit response_format können Sie ein JSON-Objekt anfordern, wenn ein nachgelagerter Dienst es erwartet.
Request-Parameter
| Parameter | Pflicht | Beschreibung |
|---|---|---|
messages | Ja | Senden Sie Ling 3.1 Flash die Unterhaltung in zeitlicher Reihenfolge mit den Quellen für das Auslesen von Produkt und Lieferdatum; ordnen Sie Werkzeugergebnisse ihrer tool_call_… mindestens 1 Einträge · höchstens 256 Einträge |
max_tokens | Nein | Bei Ling 3.1 Flash ist |
reasoning_effort | Nein | Ling 3.1 Flash bietet none, low, medium, high, voreingestellt ist medium; vergleichen Sie den Aufwand für das Auslesen von Produkt und Lieferdatum anhand der verbrauchten Ausgab… |
stop | Nein | Beenden Sie die Ausgabe von Ling 3.1 Flash mit einer oder bis zu vier Sequenzen; die erkannte Markierung erscheint nicht im endgültigen Text. mindestens 1 Zeichen · mindestens 1 Einträge · höchstens 4 Einträge |
temperature | Nein | temperature beeinflusst das Sampling von Ling 3.1 Flash; behalten Sie für das Auslesen von Produkt und Lieferdatum die Voreinstellung bei, sofern kein anderer Antwortstil benöti… |
top_p | Nein |
|
tools | Nein | Definieren Sie für Ling 3.1 Flash bis zu 128 Funktionen im OpenAI-Format für das Auslesen von Produkt und Lieferdatum; Ihre Anwendung prüft Argumente und führt die vorgeschlagen… höchstens 128 Einträge |
parallel_tool_calls | Nein | Dieser Schalter erlaubt Ling 3.1 Flash, mehrere unabhängige Funktionen in einem Zug vorzuschlagen; Ihre Anwendung steuert weiterhin die Ausführung. Standardwert: |
tool_choice | Nein | Ling 3.1 Flash akzeptiert bei |
response_format | Nein | Fordern Sie von Ling 3.1 Flash Text oder strukturiertes JSON für das Auslesen von Produkt und Lieferdatum an und prüfen Sie das JSON gegen die erwarteten Felder. |
Preis
Eingabe $0.075 / Ausgabe $0.225 je 1 Mio. Token
Anwendungsfälle
Hochvolumige Klassifikation und Extraktion
Support-Tickets taggen, Namen, Daten und Beträge aus E-Mails ziehen oder Nachrichten der richtigen Warteschlange zuweisen. Setzen Sie reasoning_effort auf none oder low, halten Sie temperature niedrig und fordern Sie ein JSON-Objekt an, damit jede Antwort ohne Nachbearbeitung geparst werden kann.
Schneller Chat für Produkte und Assistenten
Legen Sie Persona und Hausregeln in die System-Nachricht, senden Sie die Unterhaltung vom ältesten zum neuesten Beitrag und streamen Sie die Antwort an den Nutzer. Der große Kontext bedeutet, dass lange Verläufe unverändert gesendet werden können, statt zusammengefasst zu werden.
Agenten-Schleifen mit Tools
Stellen Sie dem Modell eine Suchfunktion, eine Datenbankabfrage oder eine Ticket-Aktion zur Verfügung und lassen Sie es entscheiden, wann es sie aufruft. Der Hersteller nennt terminalbasierte Tool-Nutzung und Software-Engineering unter den vorgesehenen Einsatzzwecken.
Lange Dokumente lesen
Fügen Sie eine Richtlinie, ein Transkript oder ein Code-Modul ein, setzen Sie das Material an den Anfang und die Frage ans Ende und bitten Sie um die Textstelle, die jede Aussage belegt. Erhöhen Sie reasoning_effort, wenn die Antwort davon abhängt, mehrere Abschnitte zusammenzuführen.
Prompt-Leitfaden und Praxistipps
Mit medium beginnen, dann um eine Stufe anpassen
medium ist der Standard. Gehen Sie bei kurzen, klar definierten Aufgaben auf low oder none und beobachten Sie, wie die Latenz sinkt; auf high nur, wenn eine falsche Antwort mehr kostet als die zusätzlichen Tokens. Vergleichen Sie die Ausgaben an einigen eigenen Beispielen, bevor Sie einen Produktionsstandard ändern.
Platz für das Denken in
max_tokenslassenDer Standardwert von
max_tokensist 4,096. Das Denken zählt zum selben Budget; erhöhen Sie es für lange Antworten oder höhere Aufwandsstufen, sonst kann das Budget aufgebraucht sein, bevor die sichtbare Antwort fertig ist. Prüfen Sie den Abschlussgrund, bevor Sie eine Antwort als vollständig behandeln.Lange Materialien vorne, die Frage am Ende
Kennzeichnen Sie jede Quelle, platzieren Sie die Dokumente früh in der Unterhaltung und stellen Sie Ihre Frage am Ende. Halten Sie Anweisungen in der System-Nachricht, damit sie nicht mit zitiertem Text verwechselt werden.
Tool-Ergebnisse mit der passenden ID zurücksenden
Wenn das Modell einen Funktionsaufruf anfordert, führen Sie ihn aus und senden die Ausgabe als Tool-Nachricht mit derselben
tool_call_idzurück. Behalten Sie die früheren Tool-Aufrufe des Assistenten im Verlauf, damit die Unterhaltung konsistent bleibt.
Textfelder mit Ling 3.1 Flash auslesen
Lassen Sie aus einer Kundenmeldung Produktname, Lieferdatum und den jeweiligen Beleg im Wortlaut auslesen. Dieser Endpoint nimmt nur Text an, keine Dokumentbilder. Das hier freigegebene Eingabelimit beträgt 262.144 Token; die Modellkarte von inclusionAI nennt für das zugrunde liegende Modell einen Kontext von 1M.
Denkaufwand wählen
Voreingestellt ist medium, daneben gibt es none, low und high. Vergleichen Sie none für einfaches Auslesen mit high für Fälle, die mehrere Schlussfolgerungen erfordern. Das Ausgabelimit beginnt bei 4.096 Token; eine Erhöhung ändert den Tokenpreis nicht.
Aus Werten werden Aktionen
Fordern Sie über response_format JSON an und gleichen Sie die Werte mit der Meldung ab. Ling kann parallele Werkzeugaufrufe vorschlagen, doch Ihre Anwendung führt sie aus und meldet Ergebnisse zurück. Ein erzeugtes Lieferdatum bestätigt noch keinen Versandstatus.
Über Inhalte entscheidet das gewählte Modell. Bei Ling 3.1 Flash gilt: Das NSFW-Verhalten kann variieren; uneingeschränkte Inhalte werden nicht zugesichert.
API-Schnellstart
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "inclusionai/ling-3.1-flash/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Authentifizierung, vollständiges Schema, Polling und Fehlerbehandlung stehen in der API-Referenz.