Введение
Ling 3.1 Flash — гибридная reasoning-модель с архитектурой mixture-of-experts от inclusionAI, выпущенная 29 сентября 2026 года. Разработчик указывает 560B параметров в сумме, из которых на каждый токен приходится 25B активных. Здесь модель доступна как один совместимый с OpenAI чат-эндпоинт: до 262,144 токенов текста на входе, до 262,144 токенов на выходе, инструменты и стриминг в каждом запросе.
| Характеристика | Значение |
|---|---|
| Ввод | Текст |
| Вывод | Текст |
| Входной бюджет | 262,144 tokens |
| Предел max_tokens | 262,144 |
| Входные данные | текст |
Ключевые возможности и особенности
Очень большая модель, которая задействует только часть себя
Карточка модели от inclusionAI описывает Ling 3.1 Flash как линейно-гибридную архитектуру mixture-of-experts: 560B параметров в сумме, из 512 маршрутизируемых экспертов для каждого токена активны восемь плюс один общий эксперт, то есть около 25B параметров. Именно на это указывает название Flash: большая модель, которая должна отвечать с темпом заметно меньшей.
Думать, когда это помогает, и пропускать, когда не помогает
reasoning_effort принимает значения none, low, medium или high; по умолчанию medium. Используйте none или low для классификации, извлечения данных и коротких реплик в чате, где важна задержка, а для многошаговых задач переходите на high. Разработчик называет модель нативно гибридной reasoning-моделью, поэтому один эндпоинт покрывает оба режима.
Четверть миллиона токенов в одном запросе
262,144 токена входных данных — это примерно 190,000 английских слов: достаточно для длинного договора, переписки поддержки с вложениями, вставленными как текст, или модуля кода среднего размера. В карточке открытой модели указано окно в 1M токенов; этот эндпоинт принимает 262,144, и именно эту цифру стоит закладывать в планирование.
Вызовы инструментов и стриминг в одном запросе
Отправьте до 128 определений инструментов, получите от модели вызов функции, выполните его в своём приложении и верните результат сообщением роли tool. Ответы передаются по мере написания, а если нижестоящий сервис ждёт JSON-объект, его можно запросить через response_format.
Параметры запроса
| Параметр | Обязательно | Описание |
|---|---|---|
messages | Да | Передайте Ling 3.1 Flash сообщения по порядку и источники для задачи «извлечение товара и даты доставки»; свяжите результат инструмента с его |
max_tokens | Нет | Для Ling 3.1 Flash |
reasoning_effort | Нет | Ling 3.1 Flash принимает none, low, medium, high, по умолчанию medium; сравнивайте настройки для задачи «извлечение товара и даты доставки» по расходу выходных токенов. |
stop | Нет | Остановите ответ Ling 3.1 Flash одной последовательностью или списком до четырёх; совпавший маркер не входит в итоговый текст. Не менее 1 символов · Не менее 1 элементов · Не более 4 элементов |
temperature | Нет | temperature меняет семплирование Ling 3.1 Flash; для задачи «извлечение товара и даты доставки» оставьте значение по умолчанию, если не нужен иной стиль ответа. |
top_p | Нет |
|
tools | Нет | Задайте для Ling 3.1 Flash до 128 функций в формате OpenAI для задачи «извлечение товара и даты доставки»; приложение проверяет аргументы и выполняет предложенные операции. Не более 128 элементов |
parallel_tool_calls | Нет | Настройка разрешает Ling 3.1 Flash предложить несколько независимых функций за один ход; выполнением по-прежнему управляет приложение. По умолчанию: |
tool_choice | Нет | Для Ling 3.1 Flash |
response_format | Нет | Запросите у Ling 3.1 Flash текст или структурированный JSON для задачи «извлечение товара и даты доставки» и проверьте поля, ожидаемые приложением. |
Стоимость
Ввод $0.075 / Вывод $0.225 за 1 млн токенов
Сценарии использования
Классификация и извлечение данных в больших объёмах
Маркировка обращений в поддержку, извлечение имён, дат и сумм из писем или маршрутизация сообщений в нужную очередь. Установите reasoning_effort в none или low, держите temperature низкой и запрашивайте JSON-объект, чтобы каждый ответ можно было разобрать без дополнительной обработки.
Быстрый чат для продуктов и ассистентов
Опишите персону и правила проекта в системном сообщении, передавайте диалог от старых реплик к новым и стримьте ответ пользователю. Большой контекст позволяет передавать длинную историю как есть, без пересказа.
Агентные циклы с инструментами
Дайте модели функцию поиска, запрос к базе данных или действие с тикетом, и пусть она сама решает, когда их вызывать. Разработчик среди предполагаемых сценариев называет работу с инструментами в терминале и разработку программного обеспечения.
Чтение длинных документов
Вставьте регламент, стенограмму или модуль кода, поместите материал в начало, а вопрос в конец, и попросите указать фрагмент, подтверждающий каждое утверждение. Повышайте reasoning_effort, если ответ зависит от сопоставления нескольких разделов.
Руководство по промптам и практические советы
Начните с medium и сдвигайтесь на одну ступень
medium — значение по умолчанию. Для коротких и чётко поставленных задач переходите на low или none и смотрите, как падает задержка; поднимайте до high только там, где ошибка стоит дороже дополнительных токенов. Прежде чем менять значение по умолчанию в продакшене, сравните результаты на нескольких собственных примерах.
Оставьте в
max_tokensзапас на рассуждениеЗначение
max_tokensпо умолчанию — 4,096. Рассуждение учитывается в том же бюджете, поэтому увеличивайте его для длинных ответов или высоких уровней усилия, иначе бюджет может закончиться до того, как видимый ответ будет дописан. Проверьте причину завершения, прежде чем считать ответ полным.Длинные материалы — в начале, вопрос — в конце
Подписывайте каждый источник, размещайте документы в начале диалога и задавайте вопрос в конце. Держите инструкции в системном сообщении, чтобы их не путали с цитируемым текстом.
Возвращайте результаты инструментов с нужным идентификатором
Когда модель запрашивает вызов функции, выполните её и отправьте результат сообщением роли tool с тем же
tool_call_id. Сохраняйте в истории предыдущие вызовы инструментов ассистента, чтобы диалог оставался согласованным.
Извлечение полей с Ling 3.1 Flash
Попросите выделить из сообщения клиенту товар, дату доставки и исходную фразу для каждого поля. Этот эндпоинт принимает только текст: передавайте содержание документа, а не его фотографию. Здесь доступно 262 144 входных токена; заявленный inclusionAI контекст самой модели составляет 1M.
Выбор рассуждения
По умолчанию используется medium, также доступны none, low и high. Для прямого извлечения попробуйте none, для нескольких последовательных выводов — high. Начальный предел ответа составляет 4 096 токенов; его увеличение не меняет ставку за токен.
Работа с результатом
Запрашивайте JSON через response_format и сверяйте поля с исходным сообщением. Ling может предложить параллельные вызовы инструментов, но выполняет их и возвращает результаты приложение. Сгенерированная дата сама по себе не подтверждает статус отправления.
Решения о содержимом принимает выбранная модель. Для Ling 3.1 Flash: Поведение с NSFW может меняться; работа без ограничений не гарантируется.
Быстрый старт API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "inclusionai/ling-3.1-flash/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Аутентификация, полная схема, опрос статуса и обработка ошибок описаны в справочнике API.