Введение
GLM 5.3 Flash — чат-модель Z.ai с длинным контекстом, здесь она доступна как один совместимый с OpenAI эндпоинт /v1/chat/completions. Она читает до 1 048 576 токенов в пределах 256 сообщений и отвечает объёмом до 131 072; уровень рассуждения — low, high или max.
По умолчанию — max. Принимаются temperature (от 0 до 1) и top_p, response_format возвращает JSON-объекты, в запросе можно объявить до 128 инструментов, сообщения — текст, изображения и видео, а по желанию ответы приходят потоком через Server-Sent Events.
Ключевые возможности и особенности
Три ступени рассуждения
low, high и max задаются в одном теле запроса. low подходит для разметки и извлечения по большой выгрузке, high — для ревью, а max, значение по умолчанию, — для ответов, которые должны выдержать проверку. Смена ступени меняет одну строку, а не интеграцию.
Миллион токенов на входе, вывод на выходе
Окно принимает 1 048 576 токенов, а ответ — до 131 072, примерно восемь к одному. Такова форма работы, в которой нужно прочитать выгрузку, архив стенограмм или набор документов и вернуть метки, сводную таблицу или список находок, а не переписать присланное.
Структурированный вывод для конвейеров
response_format с json_object возвращает объект, который разберёт ваш код, а до 128 инструментов позволяют модели вызывать ваши системы. Перечислите все ключи в системном сообщении, чтобы структура не менялась от запуска к запуску, и проверяйте результат, прежде чем на него отреагирует что-то дальше по цепочке.
Параметры запроса
| Параметр | Обязательно | Описание |
|---|---|---|
messages | Да | Не более 256 упорядоченных реплик. Содержимое — строка или массив частей text, |
reasoning_effort | Нет | low, high или max. |
stop | Нет | Одна последовательность — строкой или массивом из одного элемента: Z.ai читает только одну. Ответ обрывается, как только модель её пишет, а совпавший текст не возвращается. Не менее 1 символов · Не менее 1 элементов · Не более 1 элементов |
max_tokens | Нет | Ограничивает ответ значением 131 072 — восьмая часть окна чтения. По умолчанию 32 768. |
temperature | Нет | От 0 до 1, по умолчанию 1. Держите на 0 всякий раз, когда ответ разбирает код. |
top_p | Нет | От 0,01 до 1, по умолчанию 0,95. В одном сравнении меняйте его либо temperature, но не оба. |
tools | Нет | До 128 описаний функций на запрос. Не более 128 элементов |
tool_choice | Нет | auto, none, required или объект с именем конкретной функции. |
response_format | Нет | Просите объект JSON и называйте каждый ключ в системном сообщении. |
Стоимость
Ввод $0.1275 / Вывод $0.425 за 1 млн токенов
Сценарии использования
Сортировка обращений на low
Отправьте полную выгрузку обращений с фиксированным набором меток и попросите по одной метке на обращение в JSON. На low прогон остаётся дешёвым, а на high повторно уходят только обращения, которые отклонили ваши проверки.
Вопросы к архиву стенограмм
Загрузите в один запрос стенограммы встреч или разговоров поддержки за несколько месяцев и спросите, где было принято решение и кто возражал, с цитатами. Ничего не нарезано, поэтому ответ может процитировать вместе строку из марта и строку из июля.
Ассистенты с вызовом инструментов
Объявите функции, которыми вашему ассистенту разрешено пользоваться, — поиск, создание, обновление — и позвольте tool_choice решать, когда их вызывать. Результаты возвращаются сообщениями с ролью tool, так что весь обмен остаётся в одном диалоге.
Руководство по промптам и практические советы
Поднимайтесь по ступеням только там, где нужно
Первый проход запустите на low, не прошедшее проверку отправьте повторно на high, а max оставьте для немногих случаев, которые всё ещё спорны. Держите сообщения одинаковыми между проходами, чтобы единственной переменной был уровень рассуждения.
Вызов для разметки, который можно скопировать
POST https://api.spicyapi.ai/v1/chat/completions с телом {"model": "zai/glm-5.3-flash", "messages": [{"role": "system", "content": "Label each ticket with one of: billing, access, bug, feature. Return JSON: {\"labels\": [{\"id\": ..., \"label\": ...}]}."}, {"role": "user", "content": "<the ticket export>"}], "reasoning_effort": "low", "max_tokens": 20000, "response_format": {"type": "json_object"}}. Разберите объект, проверьте, что вернулся каждый ID, и отправьте недостающие повторно.
Бюджет и ограничения
По умолчанию max_tokens равен 32 768, а токены рассуждения тоже тарифицируются как вывод, поэтому оставляйте запас сверх ожидаемого ответа; значения больше 131 072 не проходят валидацию. Части с аудио и файлами отклоняются, а JSON в response_format задаёт форму ответа, но не заменяет ваш собственный разбор.
Быстрый старт API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "zai/glm-5.3-flash/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Аутентификация, полная схема, опрос статуса и обработка ошибок описаны в справочнике API.
