Введение
Claude Sonnet 4.6 — рабочая лошадка среди чат-моделей Anthropic, здесь она доступна как один совместимый с OpenAI эндпоинт /v1/chat/completions. За вызов она читает до 1 000 000 токенов и отвечает объёмом до 64 000 — хватает, чтобы переносить несколько сотен реплик ролевой игры дословно, без предварительного пересказа.
Уровень рассуждения — low, medium, high или max (по умолчанию medium), а temperature (от 0 до 1) и top_p по-прежнему настраиваются. Сообщения — текст и изображения; в том же запросе доступны до 128 инструментов и потоковая передача SSE.
Ключевые возможности и особенности
Несколько сотен реплик — дословно
В 1 000 000 токенов помещается несколько сотен исходных реплик. Откажитесь от пересказа, и на трёхсотой реплике персонаж помнит, на что согласился на десятой; начните сжимать — и первыми выпадут как раз те детали, что держали его цельным.
Шестнадцать прочитанных токенов на один написанный
Окно в шестнадцать раз больше предела ответа в 64 000 токенов, и такая форма подходит для диалога: на каждой реплике читается много истории, а в ответ пишется сцена или глава. Если результат должен выйти длиннее 64 000 токенов, разбейте его по главам.
Рассуждение и сэмплирование в одном теле запроса
low, medium, high и max соседствуют с temperature и top_p в одном теле запроса. Обычные реплики гоняйте на low с «тёплой» temperature, а реплику, которая должна связать линии, отправляйте на high или max.
Параметры запроса
| Параметр | Обязательно | Описание |
|---|---|---|
messages | Да | Упорядоченные реплики диалога. Содержимое — строка или массив частей text и |
max_tokens | Нет | Ограничивает ответ значением 64 000 — одна шестнадцатая окна чтения. По умолчанию 4 096. |
reasoning_effort | Нет | low, medium, high или max, по умолчанию medium. Поднимайте, когда ответу нужно свести детали до того, как модель начнёт писать. |
stop | Нет | До 4 последовательностей — строкой или массивом. Ответ обрывается, как только модель пишет одну из них, а совпавший текст не возвращается. Не менее 1 символов · Не менее 1 элементов · Не более 4 элементов |
temperature | Нет | От 0 до 1, по умолчанию 1. Держите на 0 всякий раз, когда ответ разбирает код. |
top_k | Нет | От 1 до 500. Выбор идёт только из k самых вероятных следующих токенов: 1 делает ответы почти воспроизводимыми, большие значения ослабляют отбор. |
top_p | Нет | От 0,01 до 1. В одном сравнении меняйте его либо temperature, но не оба. |
tools | Нет | До 128 описаний функций на запрос. Не более 128 элементов |
parallel_tool_calls | Нет | true или false, по умолчанию true: модель может запросить несколько вызовов инструментов за один ход. По умолчанию: |
tool_choice | Нет | auto, none, required или объект с именем конкретной функции. |
Стоимость
Ввод $3 / Вывод $15 за 1 млн токенов
Сценарии использования
Ролевая игра на несколько сотен реплик
Возвращайте всю историю без изменений, реплика за репликой. Обещания, обиды и дежурные шутки персонажа остаются в запросе, поэтому цельность держится на самом материале, а не на напоминании в промпте.
Интерактивная проза с инструментами
Броски кубиков, проверки инвентаря и справки по лору подключаются как функции — до 128 определений под управлением tool_choice. Результаты возвращаются сообщениями tool в том же диалоге, так что развязка никогда не уводит из сцены.
Продолжение романа с продолжением
Положите в запрос историю на текущий момент и попросите следующую главу. Предела в 64 000 токенов хватает на целую сцену, а сериалу не нужно заново излагать завязку — она по-прежнему в окне.
Руководство по промптам и практические советы
Зафиксируйте состав персонажей в системном сообщении
Манера речи, отношения и жёсткие границы каждого персонажа — в системном сообщении, а пользовательские реплики несут только сюжет. Тогда при ветвлении истории меняется лишь вторая половина запроса.
Оставьте в max_tokens место для рассуждения
По умолчанию — 4 096 токенов. Токены рассуждения тоже тарифицируются как вывод, поэтому на high или max задавайте max_tokens с запасом сверх ожидаемого видимого ответа, в пределах 64 000.
Что эндпоинт отклоняет
max_tokens больше 64 000, части с видео или аудио и диалог, который завершается сообщением assistant, чтобы заранее задать начало ответа, — всё это приводит к ошибке. response_format нет: для машиночитаемого вывода вызывайте принудительно инструмент, параметры которого — ваша JSON-схема. Результаты инструментов занимают окно, как и любые сообщения, поэтому в очень длинной сессии рано или поздно придётся решать, что убрать.
Быстрый старт API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "anthropic/claude-sonnet-4.6/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Аутентификация, полная схема, опрос статуса и обработка ошибок описаны в справочнике API.
