Wprowadzenie
Ling 3.1 Flash to hybrydowy model rozumowania w architekturze mixture-of-experts od inclusionAI, opublikowany 29 września 2026 roku. Wydawca podaje 560B parametrów łącznie, z czego na każdy token przypada 25B aktywnych. Tutaj model jest dostępny jako jeden endpoint czatu zgodny z OpenAI: do 262,144 tokenów tekstu na wejściu, do 262,144 tokenów na wyjściu, narzędzia i strumieniowanie w każdym żądaniu.
| Pole | Wartość |
|---|---|
| Wejście | Tekst |
| Wyjście | Tekst |
| Budżet wejścia | 262,144 tokens |
| Limit max_tokens | 262,144 |
| Dane wejściowe | tekst |
Najważniejsze funkcje
Bardzo duży model, który uruchamia tylko część siebie
Karta modelu inclusionAI opisuje Ling 3.1 Flash jako liniowo-hybrydową architekturę mixture-of-experts: 560B parametrów łącznie, a dla każdego tokenu aktywnych jest osiem z 512 kierowanych ekspertów oraz jeden ekspert współdzielony, czyli około 25B parametrów. Na to wskazuje nazwa Flash: duży model, który ma odpowiadać w tempie znacznie mniejszego.
Myśli tam, gdzie to pomaga, i pomija myślenie, gdy nie trzeba
reasoning_effort przyjmuje wartości none, low, medium lub high; domyślnie jest medium. Do klasyfikacji, ekstrakcji i krótkich wymian w czacie, gdzie liczy się opóźnienie, użyj none lub low, a do zadań wieloetapowych przejdź na high. Wydawca nazywa ten model natywnie hybrydowym modelem rozumowania, więc jeden endpoint obsługuje oba style.
Ćwierć miliona tokenów w jednym żądaniu
262,144 tokeny wejścia to mniej więcej 190,000 słów po angielsku: wystarczy na długą umowę, wątek wsparcia z załącznikami wklejonymi jako tekst albo moduł kodu średniej wielkości. Karta otwartego modelu podaje okno 1M tokenów; ten endpoint przyjmuje 262,144 i właśnie tę wartość warto uwzględniać w planowaniu.
Wywołania narzędzi i strumieniowanie w tym samym wywołaniu
Wyślij do 128 definicji narzędzi, pozwól modelowi zwrócić wywołanie funkcji, wykonaj je w swojej aplikacji i odeślij wynik jako wiadomość narzędzia. Odpowiedzi są strumieniowane w miarę powstawania, a jeśli usługa dalsza oczekuje obiektu JSON, można o niego poprosić przez response_format.
Parametry żądania
| Parametr | Wymagane | Uwaga |
|---|---|---|
messages | Tak | Prześlij do Ling 3.1 Flash rozmowę w kolejności wraz ze źródłami do zadania „odczyt produktu i terminu dostawy”; powiąż wyniki narzędzi z ich |
max_tokens | Nie | Dla Ling 3.1 Flash domyślne |
reasoning_effort | Nie | W Ling 3.1 Flash dostępne są none, low, medium, high, domyślnie medium; porównaj ustawienia dla zadania „odczyt produktu i terminu dostawy” według zużycia tokenów wyjściowych. |
stop | Nie | Zatrzymaj odpowiedź Ling 3.1 Flash jedną sekwencją lub listą do czterech; dopasowany znacznik pomija się w końcowym tekście. od 1 znaków · od 1 elementów · do 4 elementów |
temperature | Nie | temperature steruje próbkowaniem w Ling 3.1 Flash; przy zadaniu „odczyt produktu i terminu dostawy” zachowaj wartość domyślną, chyba że potrzebujesz innego stylu odpowiedzi. |
top_p | Nie |
|
tools | Nie | Zdefiniuj dla Ling 3.1 Flash do 128 funkcji w formacie OpenAI do zadania „odczyt produktu i terminu dostawy”; argumenty sprawdza i operacje wykonuje aplikacja. do 128 elementów |
parallel_tool_calls | Nie | Pozwala się tu Ling 3.1 Flash proponować kilka niezależnych funkcji w jednej turze; ich wykonaniem nadal steruje aplikacja. Domyślnie: |
tool_choice | Nie | W Ling 3.1 Flash |
response_format | Nie | Poproś Ling 3.1 Flash o tekst lub uporządkowany JSON do zadania „odczyt produktu i terminu dostawy” i sprawdź pola oczekiwane przez aplikację. |
Cennik
Wejście $0.075 / Wyjście $0.225 za 1 mln tokenów
Zastosowania
Klasyfikacja i ekstrakcja na dużą skalę
Oznaczanie zgłoszeń wsparcia, wyciąganie imion, dat i kwot z wiadomości e-mail albo kierowanie wiadomości do właściwej kolejki. Ustaw reasoning_effort na none lub low, trzymaj temperature na niskim poziomie i poproś o obiekt JSON, aby każdą odpowiedź dało się sparsować bez dodatkowej obróbki.
Szybki czat dla produktów i asystentów
Umieść personę i zasady obowiązujące w firmie w wiadomości systemowej, wysyłaj rozmowę od najstarszych do najnowszych wiadomości i strumieniuj odpowiedź do użytkownika. Duży kontekst pozwala przesyłać długą historię w oryginale, bez streszczania.
Pętle agentów z narzędziami
Daj modelowi funkcję wyszukiwania, zapytanie do bazy danych albo akcję na zgłoszeniu i pozwól mu zdecydować, kiedy ją wywołać. Wydawca wśród przewidzianych zastosowań wymienia pracę z narzędziami w terminalu oraz inżynierię oprogramowania.
Czytanie długich dokumentów
Wklej regulamin, transkrypcję lub moduł kodu, umieść materiał na początku, a pytanie na końcu, i poproś o fragment uzasadniający każde twierdzenie. Podnieś reasoning_effort, gdy odpowiedź zależy od połączenia kilku sekcji.
Wskazówki
Zacznij od medium, potem przesuń o jeden poziom
medium jest wartością domyślną. Przy krótkich, dobrze określonych zadaniach zejdź na low lub none i sprawdź, jak spada opóźnienie; wyżej, do high, idź tylko tam, gdzie błędna odpowiedź kosztuje więcej niż dodatkowe tokeny. Przed zmianą wartości domyślnej na produkcji porównaj wyniki na kilku własnych przykładach.
Zostaw w
max_tokenszapas na rozumowanieDomyślna wartość
max_tokensto 4,096. Rozumowanie wlicza się w ten sam budżet, więc zwiększ go przy długich odpowiedziach lub wyższych poziomach wysiłku, bo w przeciwnym razie budżet może się wyczerpać, zanim widoczna odpowiedź zostanie dokończona. Sprawdź powód zakończenia, zanim uznasz odpowiedź za kompletną.Długi materiał na początku, pytanie na końcu
Oznacz każde źródło, umieść dokumenty na początku rozmowy i zadaj pytanie na końcu. Trzymaj instrukcje w wiadomości systemowej, aby nie myliły się z cytowanym tekstem.
Odsyłaj wyniki narzędzi z pasującym identyfikatorem
Gdy model poprosi o wywołanie funkcji, wykonaj je i wyślij wynik jako wiadomość narzędzia z tym samym
tool_call_id. Zachowaj w historii wcześniejsze wywołania narzędzi asystenta, aby rozmowa pozostała spójna.
Wyodrębniaj pola w Ling 3.1 Flash
Poproś o nazwę produktu, termin dostawy i zdanie potwierdzające każdy element wiadomości do klienta. Ten endpoint przyjmuje wyłącznie tekst: prześlij treść dokumentu, nie jego zdjęcie. Udostępniony limit wejścia wynosi 262 144 tokeny; inclusionAI podaje dla samego modelu kontekst 1M.
Dobierz wysiłek
Domyślnie stosuje się medium, dostępne są też none, low i high. Wypróbuj none do prostego odczytu, a high porównaj na przykładzie wymagającym kilku wnioskowań. Domyślny limit wyjścia to 4 096 tokenów; zwiększenie go nie zmienia stawki za token.
Wykorzystaj wynik
Zażądaj JSON przez response_format i sprawdź wartości w oryginalnej wiadomości. Ling może zaproponować równoległe wywołania narzędzi; wykonuje je aplikacja, która odsyła wyniki. Sama wygenerowana data nie potwierdza statusu przesyłki.
O treści decyduje wybrany model. W Ling 3.1 Flash: Obsługa NSFW może się zmieniać; nie gwarantuje się działania bez ograniczeń.
Szybki start z API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "inclusionai/ling-3.1-flash/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Uwierzytelnianie, pełny schemat, odpytywanie i obsługę błędów opisuje dokumentacja API.