Введение
OpenAI-совместимый чат для Gemini 3.1 Pro Preview. Окно чтения на 1 000 000 токенов, три уровня усилия, 128 описаний инструментов и вывод JSON за один синхронный вызов.
Gemini 3.1 Pro Preview — чат-модель Google с длинным контекстом, опубликованная как один OpenAI-совместимый эндпоинт. Она читает до 1 000 000 токенов и отвечает не длиннее 32 768 — примерно тридцать к одному: внутрь идут вся библия мира и история, наружу — один согласованный ход.
Ключевые возможности и особенности
Читает полку, пишет абзац
1 000 000 токенов на входе против 32 768 на выходе — примерно тридцать к одному, и это соотношение и есть инструкция по применению. Приложите библию мира, карточки персонажей и все написанные главы, а попросите один ответ, который двигает сцену. Возвращается заведомо короткий текст, согласованный с каждой отправленной страницей.
История едет с вами несжатой
Длинная ролевая ветка расползается в основном потому, что историю приходится пересказывать короче, чтобы она влезла. Окно на 1 000 000 токенов обычно убирает этот шаг целиком: отправляйте исходный текст заново каждый ход, и деталь, заложенная тридцать глав назад, останется перед глазами модели, а не в пересказе самой себя.
Может измениться без предупреждения
Срок жизни предварительной версии определяет Google. Поведение, доступность и цена могут сдвинуться, модель могут снять. Прежде чем доверить ей продакшен-ветку, определите, на какую модель эта ветка отступает.
Параметры запроса
| Параметр | Обязательно | Описание |
|---|---|---|
messages | Да | Упорядоченные реплики диалога. Содержимое — строка или массив частей text и |
max_tokens | Нет | Ограничивает ответ значением 32 768 — тридцатая часть окна чтения. По умолчанию 16 384. |
reasoning_effort | Нет | minimal, low, medium или high. По умолчанию medium: для рутинных ходов опускайте до low, а когда надо сверить историю или найти противоречия — поднимайте до high. |
stop | Нет | До 4 последовательностей — строкой или массивом. Ответ обрывается, как только модель пишет одну из них, а совпавший текст не возвращается. Не менее 1 символов · Не менее 1 элементов · Не более 4 элементов |
seed | Нет | Любое целое число. |
temperature | Нет | От 0 до 2, по умолчанию 1. Google советует оставлять модели Gemini 3 на 1,0: при меньших значениях генерация может зациклиться или просесть по качеству. |
top_p | Нет | От 0,01 до 1. В одном сравнении меняйте его либо temperature, но не оба. |
tools | Нет | До 128 описаний функций на запрос. Не более 128 элементов |
tool_choice | Нет | auto, none, required или объект с именем конкретной функции. |
response_format | Нет | Просите объект JSON и называйте каждый ключ в системном сообщении. |
Стоимость
Ввод $1.90 / Вывод $11.40 за 1 млн токенов; Запросы длиннее 200K токенов: Ввод $3.80 / Вывод $17.10
Свыше 200 000 входных токенов вся заявка тарифицируется по длинному контексту.
Сценарии использования
Продолжить сцену внутри 300 000 слов предыстории
Отправьте библию мира, карту связей и все написанные главы, а попросите один ход. Ничего не извлекалось и не выбиралось выборочно, поэтому обещание, данное в первом акте, всё ещё на виду, пока модель пишет третий.
Сверка непротиворечивости между главами
Положите правила мира и готовые главы в один запрос и спросите, какие фрагменты им противоречат. Возвращается список противоречий со ссылками, а не переписанный текст: много читать, коротко отвечать — родная территория этого соотношения.
Одно суждение по очень большому массиву документов
Загрузите в один вызов полный комплект спецификаций, квартал тикетов или целый почтовый ящик и спросите, что изменилось на самом деле. 32 768 токенов с запасом хватает на вывод и ссылки на источники.
Состояние персонажей в JSON для вашего приложения
Запросите текущее местоположение, ранения, связи и известные секреты каждого персонажа как объект JSON: response_format в json_object, и каждый ключ назван в системном сообщении. Сохранение остаётся синхронным с текстом, и спасательный парсер не нужен.
Руководство по промптам и практические советы
Правила — в system, историю — в user
Правила мира, нужный тон и длину этого хода пишите в системное сообщение. Библию, карту связей и историю кладите в одно сообщение user, от старого к новому, а в конце — задание на текущий ход.
Пересылайте всю историю заново и не пересказывайте её
Окно вмещает 1 000 000 токенов — обычно больше готового романа. Пересылка исходного текста каждый ход стоит входных токенов, но это самая дешёвая связность, какую можно купить: в пересказе ничего не теряется.
Ограничения, которые нужно учесть
Потолок ответа — 32 768 токенов, около тридцатой части окна чтения, поэтому запрос на целую главу упрётся в предел раньше, чем закончит, а max_tokens выше этого значения сразу не проходит валидацию. Содержимое сообщений — текст и изображения, части с видео и аудио отклоняются. Это предварительная версия: Google может изменить её поведение или снять её, поэтому держите наготове запасную модель до того, как пустите боевой трафик. JSON в response_format задаёт форму ответа, но разбирать и проверять его по-прежнему вашему приложению.
Быстрый старт API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "google/gemini-3.1-pro-preview/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Аутентификация, полная схема, опрос статуса и обработка ошибок описаны в справочнике API.
