Введение
Mercury 3 от Inception подходит для быстрого текстового рассуждения и взаимодействий агентов. Этот API чата принимает текст, предоставляет входной бюджет 1,000,000 токенов и принимает max_tokens до 131,072. Доступны потоковые ответы и вызовы функций.
| Характеристика | Значение |
|---|---|
| Ввод | Текст |
| Вывод | Текст |
| Входной бюджет | 1,000,000 tokens |
| Предел max_tokens | 131,072 |
| Входные данные | текст |
Ключевые возможности и особенности
Пишется параллельно, а не токен за токеном
Большинство языковых моделей пишут слева направо, токен за токеном. Mercury — диффузионная модель: по данным Inception, она создаёт и уточняет сразу много токенов, так же как диффузионные модели изображений уточняют целую картинку. Inception объясняет этим, почему Mercury 3 может работать со скоростью более 1,000 токенов в секунду.
Создана для случаев, где ожидание мешает
Inception сообщает о 1,068 токенах в секунду на GPU NVIDIA и описывает Mercury 3 как в 4–8 раз быстрее сопоставимых моделей. Это собственные измерения разработчика, поэтому воспринимайте их как ориентир, а не как обещание: скорость любого API зависит от нагрузки, длины промпта и глубины рассуждений. Среди сценариев Inception называет голосовые сервисы, чаты поддержки, поисковых и браузерных агентов.
Миллион токенов на входе
1,000,000 токенов — примерно 750,000 английских слов, по данным Inception это больше, чем 260K у Mercury 2.5. Длинная переписка, руководство или репозиторий могут быть отправлены в запросе как есть, и модель работает с оригиналом, а не с пересказом.
Рассуждения, которые можно приглушить ради скорости
reasoning_effort принимает none, low, medium или high; здесь по умолчанию low. Оставляйте none или low для разметки, маршрутизации и быстрых ответов, а повышайте, когда задаче нужно несколько шагов. Инструменты, потоковая передача и JSON-вывод работают в одном и том же вызове.
Параметры запроса
| Параметр | Обязательно | Описание |
|---|---|---|
messages | Да | Для операции «быстрые текстовые ответы Mercury 3» передавайте диалог и источники текстом по порядку, связывая каждый ответ инструмента с исходным |
max_tokens | Нет | В |
reasoning_effort | Нет | В Mercury 3 доступны none, low, medium, high, по умолчанию low; сравнивайте уровни для операции «быстрые текстовые ответы Mercury 3», поскольку более глубокое рассуждение может… |
stop | Нет | Остановите текст Mercury 3 по одной последовательности или любой из максимум четырёх; сама найденная последовательность в ответ не входит. Не менее 1 символов · Не менее 1 элементов · Не более 4 элементов |
temperature | Нет | Mercury 3 принимает temperature от 0.5 до 1; сравнивая формулировки для операции «быстрые текстовые ответы Mercury 3», сохраняйте остальные настройки выборки. |
top_p | Нет | Используйте |
tools | Нет | Передайте Mercury 3 определения функций в формате OpenAI для операции «быстрые текстовые ответы Mercury 3»; модель предлагает аргументы, а приложение проверяет их и выполняет де… Не более 128 элементов |
parallel_tool_calls | Нет | Разрешите Mercury 3 предлагать независимые вызовы вместе, если операция «быстрые текстовые ответы Mercury 3» требует нескольких внешних результатов. По умолчанию: |
tool_choice | Нет | Выберите auto, none, required или конкретную функцию для Mercury 3 и сохраните полученный ID вызова, продолжая операцию «быстрые текстовые ответы Mercury 3». |
response_format | Нет | Запросите у Mercury 3 текст или структурированный JSON и проверьте поля для операции «быстрые текстовые ответы Mercury 3» до их использования приложением. |
Стоимость
Ввод $0.20 / Вывод $0.70 за 1 млн токенов
Сценарии использования
Поддержка в реальном времени и голосовые ассистенты
Когда клиент ждёт, важно время до первой полезной фразы. Включите потоковую передачу ответа, держите reasoning_effort на none или low и разместите тон и правила в системном сообщении.
Поисковые и браузерные агенты
Агент, который вызывает инструмент, читает результат и вызывает следующий, большую часть времени тратит на ожидание модели. Передайте Mercury 3 свои функции поиска или чтения страниц и позвольте ему вести цикл. Inception среди первых партнёров называет browser-use и агентов поиска в реальном времени.
Классификация большими объёмами
Разметка сообщений, маршрутизация обращений или извлечение полей из текста в большом масштабе. Запросите JSON-объект, задайте низкую temperature и разбирайте результат напрямую, без постобработки.
Черновики и переписывание на лету
Короткие ответы, резюме, обратная связь в обучении и переписывание ощущаются почти мгновенными, когда генерация быстрая. Для длинных ответов увеличьте max_tokens и выводите текст потоком по мере поступления.
Руководство по промптам и практические советы
Держите рассуждения на low на путях, чувствительных к задержке
По умолчанию используется low. Для самых быстрых ответов берите none, а переходите на medium или high только для задач, требующих планирования. Перед выбором значения по умолчанию сравните несколько своих промптов на каждом уровне.
Оставайтесь в диапазоне temperature
Этот эндпоинт принимает temperature от 0.5 до 1. Низкое значение подходит для классификации и извлечения; более высокое даёт более разнообразные формулировки в черновиках.
Настройте
max_tokensпод нужный ответПо умолчанию
max_tokensравен 4,096, максимум — 131,072. Рассуждения, если они используются, входят в тот же бюджет: при высоких уровнях глубины оставляйте запас и проверяйте finish reason.Запрашивайте структуру, если ответ читает код
Используйте
response_format, чтобы запросить JSON-объект, или определите инструмент, параметры которого имеют нужную форму, и проверяйте полученный результат, прежде чем действовать по нему.
Быстрые текстовые диалоги
Mercury 3 параллельно уточняет текст методом диффузии. Для ответа клиенту передайте вопрос, нужный фрагмент правил и ожидаемое следующее действие в текстовом виде; этот эндпоинт не принимает изображения, видео и аудио.
Управляйте задержкой
Начните с low, а для простой классификации сравните none. Длинные ответы получайте потоком, оставляя в max_tokens место для рассуждений и видимого текста. Опубликованная Inception скорость измерена на собственной системе и не гарантирует задержку вашего запроса.
Подключите внешнее действие
Mercury 3 может предложить функцию, но аргументы проверяет и операцию выполняет ваше приложение. Верните результат с соответствующим tool_call_id для следующего шага. Перед показом клиенту сверьте итоговый ответ с предоставленными правилами.
В операции «быстрые текстовые ответы Mercury 3» действуют собственные решения Mercury 3 о содержимом; ответы NSFW могут меняться с запросом или версией, без обещания неограниченного вывода.
Быстрый старт API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "inception/mercury-3/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Аутентификация, полная схема, опрос статуса и обработка ошибок описаны в справочнике API.