Wprowadzenie
Czat zgodny z OpenAI dla Gemini 3.5 Flash-Lite. Okno odczytu 1 048 576 tokenów, cztery poziomy nakładu rozumowania z domyślnym minimal, 128 schematów narzędzi i wyjście JSON w jednym synchronicznym wywołaniu, ze streamingiem SSE, gdy o niego poprosisz.
Gemini 3.5 Flash-Lite to nastawiony na koszt model czatu od Google, opublikowany tutaj jako pojedynczy endpoint zgodny z OpenAI. Czyta do 1 048 576 tokenów w jednym żądaniu i odpowiada w maksymalnie 65 536, a jego nakład rozumowania startuje od minimal – najtańszego i najszybszego poziomu – więc klasyfikacja, tłumaczenie i zwykłe porządkowanie danych działają na najniższym ustawieniu, chyba że konkretne wywołanie poprosi o więcej.
Najważniejsze funkcje
Pas dla pracy, która przychodzi tysiącami
Kiedy zadanie to dziesięć tysięcy wierszy, a nie jedno trudne pytanie, o tym, czy w ogóle ruszy, decyduje cena pojedynczego wywołania. Po to właśnie jest ten model: na tyle tani, by każdy wiersz mógł przejść przez model, i na tyle szybki, by kolejka pustoszała na twoich oczach.
Cztery poziomy, a domyślny jest najtańszy
reasoning_effort przyjmuje minimal, low, medium albo high i domyślnie stoi na minimal. Niewysłanie niczego kupuje więc najtańszą i najszybszą odpowiedź, jaką ten model ma; poziom podnoś w pojedynczym żądaniu, które potrzebuje więcej namysłu, a nie w całej integracji.
Cały zestaw dokumentów w jednym żądaniu
Okno odczytu ma 1 048 576 tokenów, więc długa specyfikacja, pełna transkrypcja albo miesiąc logów mogą przejść w jednym wywołaniu, zamiast być pocięte na okna, które potem trzeba zszywać. Tokeny wejściowe nadal są rozliczane po zmierzonej liczbie, więc wymiaruj materiał, a nie tylko liczbę wywołań.
Parametry żądania
| Parametr | Wymagane | Uwaga |
|---|---|---|
messages | Tak | Uporządkowane tury, od najstarszej. Treść to ciąg znaków albo tablica części text, |
max_tokens | Nie | Ogranicza odpowiedź do 65 536; domyślnie jest 4096. |
reasoning_effort | Nie | minimal, low, medium albo high; minimal jest domyślne, więc niewysłanie niczego daje najtańszy i najszybszy poziom. |
stop | Nie | Do 4 sekwencji, jako string albo tablica. Odpowiedź kończy się, gdy tylko model zapisze którąś z nich, a dopasowany tekst nie jest zwracany. od 1 znaków · od 1 elementów · do 4 elementów |
seed | Nie | Dowolna liczba całkowita. |
temperature | Nie | Od 0 do 2, domyślnie 1. Google zaleca zostawienie modeli Gemini 3 na 1,0: poniżej tej wartości generowanie potrafi wpaść w pętlę albo stracić jakość. |
top_p | Nie | Od 0,01 do 1. Zmieniaj albo to pole, albo temperature – nigdy obu w tym samym porównaniu. |
tools | Nie | Do 128 definicji funkcji na żądanie. do 128 elementów |
tool_choice | Nie | auto, none, required albo obiekt wskazujący jedną funkcję. |
response_format | Nie | Poproś o obiekt JSON i wymień każdy klucz w wiadomości systemowej – właśnie tak swobodny tekst wraca w kolumnach, które już masz. |
Cennik
Wejście $0.30 / Wyjście $2.50 za 1 mln tokenów
Zastosowania
Masowa klasyfikacja i etykietowanie
Kierowanie zgłoszeń, tagowanie logów czatu, rozdzielanie poczty przychodzącej między osoby odpowiedzialne. Jedna stała wiadomość systemowa, jeden wiersz na wywołanie, nakład zostawiony na minimal – i cała kolejka przechodzi przez model, a nie przez wyrażenie regularne.
Przebiegi tłumaczeniowe
Ciągi produktowe, odpowiedzi wsparcia, teksty katalogowe. Instrukcja i glosariusz siedzą w wiadomości systemowej, tekst źródłowy idzie w wiadomości użytkownika, a wielkość przebiegu przestaje być powodem, żeby tego nie robić.
Swobodny tekst do stałych pól
Poproś o obiekt JSON przez response_format, wymień każdy klucz w wiadomości systemowej i pozwól modelowi złożyć nieuporządkowaną notatkę w kolumny, które twoja baza już ma. Parsowanie i walidacja zostają po twojej stronie.
Ciche kroki pętli agentowej
Większość kroków agenta to nie ten ciekawy: ponowne przeczytanie strony, rozstrzygnięcie, czy wynik jest istotny, streszczenie tego, co właśnie zaszło. Wysyłaj je tutaj, a drogi model zostaw na ten krok, który naprawdę o czymś decyduje.
Wskazówki
Instrukcja w wiadomości systemowej, materiał w wiadomości użytkownika
Opis zadania, kształt wyniku i słownictwo umieść w jednej wiadomości systemowej, a w wiadomości użytkownika wyślij tylko wiersz, fragment albo dokument. To właśnie trzymanie wiadomości systemowej bez zmian w całej partii sprawia, że wyniki dają się ze sobą porównywać.
Nie ruszaj poziomu nakładu, dopóki jedno wywołanie nie poprosi o więcej
minimal jest wartością domyślną i to na tym ustawieniu powinna działać większość partii. Gdy konkretna pozycja potrzebuje więcej namysłu, podnieś to jedno żądanie do low, medium albo high – to łańcuch znaków w tej samej treści, więc nic więcej w integracji się nie zmienia.
Limity, które trzeba uwzględnić
Limit odpowiedzi to 65 536 tokenów, a max_tokens powyżej tej wartości nie przejdzie walidacji. Treść wiadomości to tekst, obrazy i wideo; części dźwiękowe są odrzucane. Wideo wysyła się jako przesłany plik, a wideo w jednym żądaniu może mieć łącznie 14 MB. response_format w postaci JSON nadaje odpowiedzi kształt, ale parsowanie i walidacja zostają po stronie twojej aplikacji. Wiedza wewnątrz modelu kończy się na marcu 2026, więc wszystko późniejsze musi trafić do promptu.
Szybki start z API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "google/gemini-3.5-flash-lite/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Uwierzytelnianie, pełny schemat, odpytywanie i obsługę błędów opisuje dokumentacja API.
