Grok 4.5 API

OpenAI-совместимый чат для Grok 4.5 — модели для кода в линейке Grok от xAI. Один ход несёт части text и image_url, усилие рассуждения поднимается до xhigh, а один ответ может дойти до 450 000 токенов.

xAI выпускает Grok 4.5 для агентной разработки, инженерных и рабочих задач, обучила её на дополнительных данных по естественным наукам, технике и математике и отдаёт также под именами grok-4.5-latest и grok-build-latest. Здесь это один эндпоинт на /v1/chat/completions, который читает до 500 000 токенов не более чем в 256 упорядоченных сообщениях и возвращает до 450 000 одним ответом. Ввод, кэшированный ввод и вывод считаются отдельно друг от друга — и именно за это платит агентный цикл, снова и снова отправляющий длинный префикс.

У префикса, который вы отправляете заново, свой счётчик

Агентный цикл на каждом шаге шлёт тот же системный промпт, те же описания инструментов и ту же карту файлов; новым бывает только хвост разговора. Ввод, который отдаётся из кэша, приходит отдельной строкой в блоке usage и считается по своей более дешёвой ставке. Включать ничего не надо. Оставлять первые сообщения неизменными между шагами — это и есть вся техника, а сколько префикса действительно попало в кэш, скажет сам ответ, вместо того чтобы оставить это вашим предположением.

Текст и изображения на входе, текст на выходе

Содержимое может быть простой строкой или массивом частей, и эта модель объявляет две из них: {"type": "text", "text": "..."} и {"type": "image_url", "image_url": {"url": "...", "detail": "auto|low|high"}}. Скриншот и вопрос о нём приходят в одном ходе, а содержимое изображений считается внутри окна на 500 000 токенов, а не сверх него. Частей file или PDF на этом эндпоинте нет, поэтому спецификация, лог или диф должны приходить вставленным текстом. Усилие рассуждения принимает low, medium, high или xhigh и стартует на high; оно оплачивается выходными токенами, а значит расходует и лимит ответа, и счёт.

Удержать весь цикл в контексте

Агент для кода на каждом шаге заново отправляет свои инструкции, описания инструментов и карту файлов и добавляет по несколько сотен новых токенов. Всё это помещается в окно на 500 000 токенов, повторяющаяся часть считается как кэшированный ввод, а на ставку длинного контекста запрос переходит только на 200 000 суммарных токенов ввода и кэшированного ввода — о чём оценка перед отправкой скажет раньше, чем вы заплатите.

Рефакторинг с модулем, тестами и падением в одном ходе

Вставьте вместе модуль, файл тестов и упавший вывод, а затем попросите патч вместе с обоснованием. Поднимайте reasoning_effort до xhigh, когда изменение нужно продумать до того, как оно написано: оно тратит больше выходных токенов до первой строки кода, и это оправданная цена там, где вы будете читать диф построчно.

Дать прочитать скриншот и стек вызовов вместе

Приложите упавший дашборд частью image_url с detail high, вставьте стек вызовов текстом в то же сообщение и попросите причины по убыванию вероятности. Картинка и лог приходят одним ходом, поэтому модель читает саму панель, а не ваше её описание.

Получить документ о миграции одним ответом

450 000 выходных токенов хватает на полный план миграции, переписанный модуль или переведённое руководство одним ответом вместо цикла по главам. Поднимайте max_tokens явно: значение по умолчанию 4 096 обрезает длинную генерацию, не выдавая ошибки, а обрезанный ответ — это сбой, который больше всего похож на законченный результат.

curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
  -H "Authorization: Bearer $SPICY_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Idempotency-Key: $(uuidgen)" \
  -d '{
  "model": "xai/grok-4.5/chat",
  "messages": [
    {
      "role": "user",
      "content": "Summarise the following release notes into three bullet points."
    }
  ],
  "stream": true
}' \
  | jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'

Аутентификация, полная схема, опрос статуса и обработка ошибок описаны в справочнике API.