Gemini 3.7 Flash API

OpenAI-совместимый чат для Gemini 3.7 Flash. Окно чтения на 1 048 576 токенов, три ступени усилия рассуждения, 128 описаний инструментов и вывод JSON в одном синхронном вызове, а при желании — потоковая выдача по SSE.

Gemini 3.7 Flash — быстрая модель Flash от Google для повседневной работы с кодом, вызовов инструментов агентами и надёжного многошагового выполнения; здесь она опубликована как один OpenAI-совместимый чат-эндпоинт. Один запрос читает до 1 048 576 токенов и отвечает не длиннее 65 536, усилие рассуждения переключается от хода к ходу между low, medium и high, а вызовы инструментов и вывод JSON записаны по-опенаевски.

Достаточно быстрый, чтобы жить внутри цикла

Агент, который планирует, вызывает инструмент, читает результат и снова решает, тратит большую часть реального времени на ожидание модели. Именно под такую работу эта модель и сделана — повседневный код, работа с инструментами, многошаговое выполнение, — поэтому цикл закрывается быстро, а не застревает на каждом шаге.

Три ступени, выбираются на каждом ходу

low, medium и high, по умолчанию medium. Это одна строка в том же теле запроса: рутинный шаг идёт на low, а шаг, который должен попасть в цель, поднимается до high. Ступени minimal у этой модели нет: её отклоняет сам API Google, и этот эндпоинт тоже отклоняет её, а не подменяет молча другим значением.

1 048 576 токенов в одном запросе

Целый модуль вместе с тестами, длинный журнал агента со всеми результатами инструментов на месте или пачка документов, прочитанная за один проход. Потолок считает вместе системное сообщение, историю и вывод инструментов: бюджет принадлежит всей ветке, а не последнему сообщению.

Повседневная работа с кодом

Прочитать диф и сказать, что он меняет; написать недостающий тест; превратить трассировку стека в правку. Это короткие и частые запросы, где время до первого токена прямо решает, станут ли инструментом пользоваться вообще.

Циклы вызова инструментов агентом

До 128 описаний функций на запрос, плюс tool_choice, чтобы навязать конкретный вызов или запретить любой. Вызовы инструментов возвращаются в форме OpenAI, поэтому готовой среде агента нужен только другой идентификатор модели.

Многошаговое выполнение в длинной ветке

Агент, уже вызвавший шесть инструментов, несёт все шесть результатов в следующий запрос. Окно на 1 048 576 токенов держит эту ветку целой вместо того, чтобы на полпути навязывать шаг с пересказом.

Структурированное извлечение в объёме

Просите объект JSON через response_format, называйте каждый ключ в системном сообщении. Строки журнала в поля, обращения в метки, свободный текст в схему: цена одного вызова и решает, стоит ли эту работу запускать.

curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
  -H "Authorization: Bearer $SPICY_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Idempotency-Key: $(uuidgen)" \
  -d '{
  "model": "google/gemini-3.7-flash/chat",
  "messages": [
    {
      "role": "user",
      "content": "Summarise the following release notes into three bullet points."
    }
  ],
  "stream": true
}' \
  | jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'

Аутентификация, полная схема, опрос статуса и обработка ошибок описаны в справочнике API.