Wprowadzenie
DeepSeek V4.1 Flash to model DeepSeek z długim kontekstem, nastawiony na przepustowość, udostępniony tu jako jeden endpoint zgodny z OpenAI pod /v1/chat/completions. Czyta do 1 048 576 tokenów w maksymalnie 256 wiadomościach i może zwrócić do 384 000 tokenów w jednej odpowiedzi, a poziom rozumowania domyślnie wynosi high.
Wiadomości mogą zawierać tekst i obrazy. Do 128 narzędzi z tool_choice, wyjście JSON przez response_format i strumieniowanie SSE działają w tym samym wywołaniu, a rozliczenie rozdziela wejście, wejście z cache i wyjście.
Najważniejsze funkcje
Długie wyniki z modelu Flash
Limit odpowiedzi to 384 000 tokenów przy oknie 1 048 576. Pełna ekstrakcja z dużego zbioru dokumentów, długie tłumaczenie albo cały zestaw testów mogą wrócić jako jedna odpowiedź, zamiast być sklejane z kilku wywołań, które nigdy nie widziały swoich wyników.
Rozumowanie dzieli budżet wyjścia
Ten model rozumuje, zanim odpowie, a rozumowanie pochodzi z max_tokens. Zbyt mały limit może w całości pójść na myślenie: przy zmierzonych 120 tokenach odpowiedź wróciła pusta, a żądanie uznano za nieudane i zwrócono pieniądze, zamiast rozliczyć je jako odpowiedź.
Dwa poziomy rozumowania w jednej treści żądania
reasoning_effort domyślnie wynosi high, a low to lżejsze ustawienie do przebiegów masowych. Zmiana to jeden string w tym samym żądaniu, więc przebieg masowy i staranna powtórka jego porażek dzielą jedną integrację.
Parametry żądania
| Parametr | Wymagane | Uwaga |
|---|---|---|
messages | Tak | Uporządkowane tury, od najstarszej, maksymalnie 256. Treść to ciąg znaków albo tablica części text i |
reasoning_effort | Nie | none, low albo high, domyślnie high. |
stop | Nie | Do 4 sekwencji, jako string albo tablica. Odpowiedź kończy się, gdy tylko model zapisze którąś z nich, a dopasowany tekst nie jest zwracany. od 1 znaków · od 1 elementów · do 4 elementów |
max_tokens | Nie | Ogranicza odpowiedź do 384 000. Domyślnie wynosi 32 768, co po cichu obcina długi materiał. |
tools | Nie | Do 128 definicji funkcji w jednym żądaniu. do 128 elementów |
tool_choice | Nie | auto, none, required albo obiekt wskazujący jedną funkcję. |
response_format | Nie | Poproś o obiekt JSON, gdy odpowiedź trafia do parsera, a nie do człowieka. |
Cennik
Wejście $0.30 / Wyjście $1.20 za 1 mln tokenów
Zastosowania
Ekstrakcja z całych dokumentów
Wyślij cały zestaw umów albo archiwum regulaminów z response_format ustawionym na json_object i poproś o każde zobowiązanie lub klauzulę jako ustrukturyzowane wiersze. Przy 384 000 tokenów miejsca na wyjście cała tabela wraca w jednym kawałku.
Przegląd kodu z długim raportem
Włóż cały serwis – handlery, migracje, testy – do jednego żądania i poproś o defekty z plikiem i linią. Nic nie zostało wcześniej pocięte, więc błąd obejmujący kontroler i migrację wciąż jest widoczny w jednym przebiegu, a raport ma miejsce na każde ustalenie.
Agenci wywołujący funkcje
Zadeklaruj do 128 narzędzi w jednym żądaniu i pozwól tool_choice zdecydować, czy model może je wywołać. Wyniki wracają jako wiadomości z rolą tool, a reasoning_content w turze assistant przenosi myślenie z poprzedniego kroku, zamiast zaczynać plan od nowa.
Wskazówki
Ustrukturyzowane wywołanie do dopasowania
POST https://api.spicyapi.ai/v1/chat/completions z {"model": "deepseek/v4.1-flash", "messages": [{"role": "system", "content": "Extract every obligation as JSON with keys party, duty, deadline and clause."}, {"role": "user", "content": "<the contract set>"}], "reasoning_effort": "low", "max_tokens": 60000, "response_format": {"type": "json_object"}}. Przy długich wynikach dodaj "stream": true, żeby tokeny przychodziły, zanim reszta zostanie dopisana. Taka ekstrakcja dobrze działa na low; na high przełączaj tylko rekordy, które nie przeszły twojej walidacji.
Zostaw kilka tysięcy tokenów zapasu
Domyślne 32 768 po cichu ucina długi rezultat, a rozumowanie korzysta z tego samego budżetu. Ustaw max_tokens na rozmiar rezultatu plus miejsce na myślenie; limit wynosi 384 000.
Co odrzuca schemat
Części plikowe są odrzucane, zanim żądanie zostanie wycenione, reasoning_content jest przyjmowane tylko w wiadomościach assistant, a okno 1 048 576 tokenów liczy każdą wysłaną wiadomość, także prompt systemowy i wcześniejsze wyniki narzędzi.
Szybki start z API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "deepseek/v4.1-flash/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Uwierzytelnianie, pełny schemat, odpytywanie i obsługę błędów opisuje dokumentacja API.
