Wprowadzenie
Czat zgodny z OpenAI dla Gemini 3.7 Flash. Okno odczytu 1 048 576 tokenów, trzy poziomy wysiłku rozumowania, 128 schematów narzędzi i wyjście JSON w jednym synchronicznym wywołaniu, a na życzenie strumieniowanie SSE.
Gemini 3.7 Flash to szybki model Flash od Google, zbudowany pod codzienne kodowanie, agentowe użycie narzędzi i niezawodne wykonywanie wielu kroków, opublikowany tutaj jako jeden endpoint czatu zgodny z OpenAI. Jedno żądanie czyta do 1 048 576 tokenów i odpowiada w maksymalnie 65 536, wysiłek rozumowania przesuwa się między low, medium i high z tury na turę, a wywołania narzędzi i wyjście JSON są zapisane po OpenAI.
Najważniejsze funkcje
Dość szybki, żeby siedzieć wewnątrz pętli
Agent, który planuje, wywołuje narzędzie, czyta wynik i decyduje od nowa, spędza większość realnego czasu na czekaniu na model. To dokładnie ten rodzaj pracy, pod który model zbudowano – codzienne kodowanie, użycie narzędzi i wykonywanie wielu kroków – więc pętla domyka się szybko, zamiast przystawać przy każdym skoku.
Trzy poziomy, rozstrzygane z tury na turę
low, medium i high, domyślnie medium. To jeden ciąg w tym samym ciele żądania, więc rutynowy krok może iść na low, a ten krok, który musi wyjść, na high. Na tym modelu nie ma ustawienia minimal: odrzuca je własne API Google, i odrzuca je też ten endpoint, zamiast po cichu je przepisywać.
1 048 576 tokenów w jednym żądaniu
Cały moduł razem z testami, długi zapis pracy agenta z wszystkimi wynikami narzędzi wciąż dopiętymi albo zestaw dokumentów przeczytany w jednym podejściu. Limit liczy razem prompt systemowy, historię i wyjście narzędzi, więc budżet należy do wątku, a nie do ostatniej wiadomości.
Parametry żądania
| Parametr | Wymagane | Uwaga |
|---|---|---|
messages | Tak | Uporządkowane tury, od najstarszej. Treść to ciąg znaków albo tablica części text, |
max_tokens | Nie | Ogranicza odpowiedź do 65 536; domyślnie jest 16 384. |
reasoning_effort | Nie | minimal, low, medium albo high; domyślnie medium. Rutynowe kroki spokojnie idą na low, a ten jeden krok, który musi wyjść, da się osobno podnieść do high. |
stop | Nie | Do 4 sekwencji, jako string albo tablica. Odpowiedź kończy się, gdy tylko model zapisze którąś z nich, a dopasowany tekst nie jest zwracany. od 1 znaków · od 1 elementów · do 4 elementów |
seed | Nie | Dowolna liczba całkowita. |
temperature | Nie | Od 0 do 2, domyślnie 1. Google zaleca zostawienie modeli Gemini 3 na 1,0: poniżej tej wartości generowanie potrafi wpaść w pętlę albo stracić jakość. |
top_p | Nie | Od 0,01 do 1. Reguluj to albo temperature, nigdy obu w tym samym porównaniu. |
tools | Nie | Do 128 definicji funkcji na żądanie. do 128 elementów |
tool_choice | Nie | auto, none, required albo obiekt wskazujący jedną funkcję. |
response_format | Nie | Poproś o obiekt JSON i nazwij każdy klucz w wiadomości systemowej – to dzięki temu wyniki ekstrakcji wracają nadające się do sparsowania. |
Cennik
Wejście $0.675 / Wyjście $3.375 za 1 mln tokenów
Zastosowania
Codzienna praca z kodem
Przeczytać diff i powiedzieć, co zmienia, dopisać brakujący test, zamienić ślad stosu w łatkę. To krótkie, częste żądania, w których o tym, czy narzędzie w ogóle zostanie użyte, decyduje czas do pierwszego tokenu.
Agentowe pętle narzędzi
Do 128 definicji funkcji na żądanie, z tool_choice do wymuszenia konkretnego wywołania albo żadnego. Wywołania narzędzi wracają w kształcie OpenAI, więc istniejącemu środowisku agentowemu wystarczy identyfikator modelu i nic więcej.
Wykonanie wielu kroków na długim wątku
Agent, który wywołał już sześć narzędzi, wnosi wszystkie sześć wyników do kolejnego żądania. To okno 1 048 576 tokenów utrzymuje ten wątek w całości, zamiast wymuszać krok streszczania w połowie roboty.
Ustrukturyzowana ekstrakcja na dużą skalę
Poproś o obiekt JSON przez response_format, nazwij każdy klucz w wiadomości systemowej. Linie logów w polach, zgłoszenia w etykietach, wolny tekst w schemacie – to cena za wywołanie rozstrzyga, czy robota się opłaca.
Wskazówki
Zostaw miejsce na myślenie, zanim ograniczysz odpowiedź
Przy domyślnym wysiłku medium model myśli, zanim zacznie pisać, a to myślenie czerpie z tego samego budżetu max_tokens co odpowiedź. Ciasny limit wydaje budżet na rozważania i zwraca pusty ciąg. Daj max_tokens realny zapas – kilka tysięcy przy odpowiedzi o kodzie – albo zejdź z reasoning_effort na low, gdy chcesz krótką odpowiedź bez rozważań.
Zmieniaj wysiłek na turę, a nie na integrację
Rutynowe kroki pętli puszczaj na low, żeby szybciej dostać pierwszy token, a krok, który musi wyjść, wyślij na high. Ten sam endpoint, to samo ciało żądania, jeden inny ciąg.
Limity, które trzeba uwzględnić
reasoning_effort przyjmuje wyłącznie low, medium i high. API Google odrzuca na tym modelu wartość minimal, więc ten endpoint też ją odrzuca, zamiast po cichu przepisywać ją na coś innego. Limit odpowiedzi to 65 536 tokenów, a max_tokens powyżej tej wartości od razu nie przechodzi walidacji. Treść wiadomości to tekst, obrazy i wideo; części dźwiękowe są odrzucane. Wideo wysyła się jako przesłany plik, a wideo w jednym żądaniu może mieć łącznie 14 MB.
Szybki start z API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "google/gemini-3.7-flash/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Uwierzytelnianie, pełny schemat, odpytywanie i obsługę błędów opisuje dokumentacja API.
