Gemini 3.5 Flash-Lite API

Chat compatibile OpenAI per Gemini 3.5 Flash-Lite. Una finestra di lettura da 1.048.576 token, quattro livelli di sforzo di ragionamento predefiniti a minimal, 128 schemi di strumenti e output JSON in una sola chiamata sincrona, con streaming SSE quando lo chiedi.

Gemini 3.5 Flash-Lite è il modello di chat di Google pensato per il costo, pubblicato qui come un unico endpoint compatibile OpenAI. Legge fino a 1.048.576 token in una richiesta e risponde in un massimo di 65.536, e il suo sforzo di ragionamento parte da minimal – il livello più economico e più rapido – così classificazione, traduzione e semplice messa in forma dei dati girano sull'impostazione più bassa, a meno che una singola chiamata non chieda di più.

La corsia per il lavoro che arriva a migliaia

Quando un lavoro è fatto di diecimila righe invece che di una sola domanda difficile, è il prezzo della singola chiamata a decidere se si fa o no. È per questo che il modello sta qui: abbastanza economico perché ogni riga possa passare attraverso un modello, abbastanza veloce perché la coda si svuoti mentre la guardi.

Quattro livelli, e il predefinito è il più economico

reasoning_effort accetta minimal, low, medium o high ed è predefinito a minimal. Non inviare nulla compra quindi la risposta più economica e più rapida che questo modello abbia; alza il livello sulla singola richiesta che ha bisogno di più riflessione, non su tutta l'integrazione.

Un intero insieme di documenti in una sola richiesta

La finestra di lettura è di 1.048.576 token, così una specifica lunga, una trascrizione completa o un mese di log possono passare in una sola chiamata invece di essere tagliati in finestre che poi devi ricucire. I token di input restano comunque fatturati come misurati, quindi dimensiona il materiale, non solo il numero di chiamate.

Classificazione ed etichettatura di massa

Instradare ticket, etichettare log di chat, smistare la posta in arrivo verso i rispettivi responsabili. Un messaggio di sistema fisso, una riga per chiamata, lo sforzo lasciato su minimal, e l'intera coda passa attraverso un modello invece che attraverso un'espressione regolare.

Passate di traduzione

Stringhe di prodotto, risposte dell'assistenza, testi di catalogo. L'istruzione e il glossario stanno nel messaggio di sistema, il testo di partenza va nel messaggio utente, e la dimensione dell'esecuzione smette di essere il motivo per non farla.

Testo libero dentro campi fissi

Chiedi un oggetto JSON con response_format, dichiara ogni chiave nel messaggio di sistema e lascia che il modello ripieghi una nota non strutturata dentro le colonne che il tuo database ha già. Parsing e convalida restano dalla tua parte.

I passi silenziosi di un ciclo agent

La maggior parte dei passi che un agent compie non è quello interessante: rileggere una pagina, decidere se un risultato è pertinente, riassumere quello che è appena successo. Manda quelli qui e tieni il modello costoso per il passo che decide davvero qualcosa.

curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
  -H "Authorization: Bearer $SPICY_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Idempotency-Key: $(uuidgen)" \
  -d '{
  "model": "google/gemini-3.5-flash-lite/chat",
  "messages": [
    {
      "role": "user",
      "content": "Summarise the following release notes into three bullet points."
    }
  ],
  "stream": true
}' \
  | jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'

Nel riferimento dell’API trovi autenticazione, schema completo, polling e gestione degli errori.