Introduction
Mercury 3, de Inception, convient à le raisonnement textuel réactif et les interactions d’agents. Cette API de chat accepte du texte, dispose d’un budget d’entrée de 1,000,000 tokens et accepte max_tokens jusqu’à 131,072. Recevez le texte de Mercury 3 au fil de sa génération, ou utilisez un résultat de fonction pour étayer l’étape suivante de les échanges textuels rapides avec Mercury 3.
| Champ | Valeur |
|---|---|
| Entrée | Texte |
| Sortie | Texte |
| Budget d’entrée | 1,000,000 tokens |
| Plafond de max_tokens | 131,072 |
| Entrées | du texte |
Fonctionnalités et points forts
Écrit en parallèle, pas un token à la fois
La plupart des modèles de langage écrivent de gauche à droite, un token après l’autre. Mercury est un modèle à diffusion : selon Inception, il produit et affine de nombreux tokens à la fois, à la manière des modèles de diffusion d’images qui affinent une image entière. Inception présente cela comme la raison pour laquelle Mercury 3 peut dépasser 1,000 tokens par seconde.
Conçu pour les cas où l’attente pèse
Inception annonce 1,068 tokens par seconde sur des GPU NVIDIA et décrit Mercury 3 comme 4 à 8 fois plus rapide que des modèles comparables. Ce sont les mesures de l’éditeur : considérez-les comme une tendance, pas comme une promesse. La vitesse de toute API dépend de la charge, de la longueur du prompt et de l’effort de raisonnement. Inception cite les assistants vocaux, le chat de support, les agents de recherche et les agents de navigation.
Un million de tokens en entrée
1,000,000 tokens représentent environ 750,000 mots anglais, contre 260K pour Mercury 2.5 selon Inception. Une longue conversation, un manuel ou un dépôt de code peut être envoyé tel quel dans la requête : le modèle lit l’original plutôt qu’un résumé.
Un raisonnement que vous pouvez réduire pour gagner en vitesse
reasoning_effort accepte none, low, medium ou high, et low est la valeur par défaut ici. Gardez none ou low pour l’étiquetage, le routage et les réponses rapides, et montez lorsqu’une tâche demande plusieurs étapes. Outils, streaming et sortie JSON fonctionnent dans le même appel.
Paramètres de requête
| Paramètre | Obligatoire | Description |
|---|---|---|
messages | Oui | Pour les échanges textuels rapides avec Mercury 3, fournissez la conversation et les éléments de preuve en texte dans l’ordre, en reliant chaque résultat d’outil à son |
max_tokens | Non | Prévoyez ensemble la réponse visible et le raisonnement facturé de Mercury 3 dans |
reasoning_effort | Non | Mercury 3 propose none, low, medium, high, avec low par défaut ; comparez les niveaux pour les échanges textuels rapides avec Mercury 3, car un raisonnement approfondi peut accr… |
stop | Non | Arrêtez le texte de Mercury 3 sur une séquence fournie, ou l’une de quatre au maximum ; la séquence rencontrée est exclue de la réponse. 1 caractères minimum · 1 éléments minimum · 4 éléments maximum |
temperature | Non | Mercury 3 accepte temperature de 0.5 à 1 ; gardez les autres réglages d’échantillonnage constants pour comparer les formulations de les échanges textuels rapides avec Mercury 3. |
top_p | Non | Utilisez |
tools | Non | Donnez à Mercury 3 des définitions de fonctions au format OpenAI pour les échanges textuels rapides avec Mercury 3 ; le modèle propose les arguments et votre application les val… 128 éléments maximum |
parallel_tool_calls | Non | Autorisez Mercury 3 à proposer plusieurs fonctions indépendantes ensemble lorsque les échanges textuels rapides avec Mercury 3 demande plusieurs résultats externes. Valeur par défaut: |
tool_choice | Non | Choisissez auto, none, required ou une fonction précise pour Mercury 3, puis conservez l’identifiant d’appel pour poursuivre les échanges textuels rapides avec Mercury 3. |
response_format | Non | Demandez à Mercury 3 du texte ou un JSON structuré, puis validez les champs nécessaires à les échanges textuels rapides avec Mercury 3 avant leur utilisation. |
Tarification
Entrée $0.20 / Sortie $0.70 par 1 million de tokens
Cas d’utilisation
Support en temps réel et assistants vocaux
Quand un client attend, le délai avant la première phrase utile compte. Diffusez la réponse, gardez reasoning_effort à none ou low et placez le ton et les règles dans le message système.
Agents de recherche et de navigation
Un agent qui appelle un outil, lit le résultat puis en appelle un autre passe l’essentiel de son temps à attendre le modèle. Confiez à Mercury 3 vos fonctions de recherche ou de lecture de pages et laissez-le piloter la boucle. Inception cite browser-use et les agents de recherche en temps réel parmi ses premiers partenaires.
Classification à grande échelle
Étiqueter des messages, router des tickets ou extraire des champs d’un texte, à grande échelle. Demandez un objet JSON, réglez une température basse et lisez le résultat directement, sans post-traitement.
Rédaction et reformulation à la volée
Réponses courtes, résumés, retours pédagogiques et reformulations semblent quasi instantanés quand la génération est rapide. Pour les longues sorties, augmentez max_tokens et diffusez le texte au fur et à mesure.
Guide de prompt et conseils pratiques
Garder un raisonnement bas sur les parcours sensibles à la latence
La valeur par défaut est low. Utilisez none pour les échanges les plus rapides et ne passez à medium ou high que pour les tâches qui demandent de la planification. Comparez quelques-uns de vos propres prompts à chaque niveau avant de choisir une valeur par défaut.
Rester dans la plage de température
Cet endpoint accepte une température de 0.5 à 1. Une valeur basse convient à la classification et à l’extraction ; une valeur plus haute donne des formulations plus variées pour les brouillons.
Régler
max_tokenssur la réponse voulueLa valeur par défaut de
max_tokensest 4,096 et le plafond 131,072. La réflexion, si elle est utilisée, est comptée dans le même budget : prévoyez de la marge aux niveaux de raisonnement élevés et vérifiez le finish reason.Demander une structure quand le code lit la réponse
Utilisez
response_formatpour demander un objet JSON, ou définissez un outil dont les paramètres ont la forme voulue, puis validez le résultat avant d’agir en conséquence.
Des échanges textuels rapides
Mercury 3 affine le texte en parallèle par diffusion. Pour une réponse d’assistance, fournissez la question du client, l’extrait de politique utile et l’action suivante attendue, sous forme de texte : cet endpoint n’accepte pas de parties image, vidéo ou audio.
Régler la réactivité
Commencez avec low, puis comparez none pour un simple classement. Recevez les longues réponses en continu et réservez dans max_tokens de la place pour le raisonnement et la réponse visible. La vitesse publiée par Inception vient de ses propres mesures, sans garantie de latence pour votre requête.
Relier une action externe
Mercury 3 peut proposer une fonction, dont votre application vérifie les arguments avant exécution. Renvoyez le résultat avec le tool_call_id correspondant pour alimenter le tour suivant. Comparez la réponse finale à la politique fournie avant de l’afficher au client.
Les décisions de contenu de Mercury 3 s’appliquent à les échanges textuels rapides avec Mercury 3 ; les réponses NSFW peuvent changer selon la requête ou la version, sans promesse de sortie sans restriction.
Démarrage rapide de l’API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "inception/mercury-3/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
La référence API détaille l’authentification, le schéma complet, le polling et la gestion des erreurs.