Gemini 3.5 Flash-Lite API

OpenAI-совместимый чат для Gemini 3.5 Flash-Lite. Окно чтения на 1 048 576 токенов, четыре уровня усилия рассуждения с minimal по умолчанию, 128 описаний инструментов и вывод JSON в одном синхронном вызове, а при желании — потоковая выдача по SSE.

Gemini 3.5 Flash-Lite — это ориентированная на стоимость чат-модель Google, опубликованная здесь одним OpenAI-совместимым эндпоинтом. Один запрос читает до 1 048 576 токенов и отвечает не более чем 65 536, а усилие рассуждения по умолчанию стоит на minimal — самом дешёвом и быстром уровне. Поэтому классификация, перевод и простое приведение данных в порядок идут на нижнем уровне, пока вы не попросите большего.

Полоса для работы, которая приходит тысячами

Когда задача — это десять тысяч строк, а не один трудный вопрос, цена одного вызова и решает, запустится ли она вообще. Именно для этого здесь стоит эта модель: достаточно дёшево, чтобы через модель прошла каждая строка, и достаточно быстро, чтобы очередь таяла прямо на глазах.

Четыре уровня, и по умолчанию стоит самый дешёвый

reasoning_effort принимает minimal, low, medium или high, по умолчанию — minimal. Не передать ничего означает купить самый дешёвый и быстрый ответ этой модели; поднимайте уровень на том единственном запросе, которому нужно подумать дольше, а не на всей интеграции.

Целая подшивка документов в одном запросе

Окно чтения — 1 048 576 токенов, поэтому длинная спецификация, полная расшифровка или месяц журналов уходят одним вызовом, а не режутся на окна, которые потом надо сшивать обратно. Входные токены по-прежнему считаются по измерению, так что следите за объёмом материала, а не только за числом вызовов.

Массовая классификация и разметка

Развести заявки по командам, разметить журналы переписки, раздать входящую почту ответственным. Одно неизменное системное сообщение, одна строка на вызов, усилие оставлено на minimal — и вся очередь проходит через модель, а не через регулярное выражение.

Прогоны перевода

Строки продукта, ответы поддержки, тексты каталога. Инструкция и глоссарий стоят в системном сообщении, исходный текст уходит в пользовательское, и объём перестаёт быть причиной этого не делать.

Свободный текст в фиксированные поля

Запросите объект JSON через response_format, назовите каждый ключ в системном сообщении и дайте модели сложить бесструктурную заметку в те колонки, которые у вашей базы уже есть. Разбор и проверка остаются на вашей стороне.

Тихие шаги агентского цикла

Большая часть шагов агента — не тот самый интересный шаг: перечитать страницу, решить, относится ли результат к делу, свести одной фразой то, что только что произошло. Отправляйте их сюда, а дорогую модель берегите для шага, на котором действительно что-то решается.

curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
  -H "Authorization: Bearer $SPICY_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Idempotency-Key: $(uuidgen)" \
  -d '{
  "model": "google/gemini-3.5-flash-lite/chat",
  "messages": [
    {
      "role": "user",
      "content": "Summarise the following release notes into three bullet points."
    }
  ],
  "stream": true
}' \
  | jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'

Аутентификация, полная схема, опрос статуса и обработка ошибок описаны в справочнике API.