Introduzione
Mercury 3 di Inception è pensato per attività di ragionamento testuale rapido e interazioni con agenti. Questa API di chat accetta testo, offre un budget di input di 1,000,000 token e accetta max_tokens fino a 131,072. Ricevi il testo di Mercury 3 mentre viene generato, oppure usa il risultato di una funzione come base per il passo successivo di le risposte testuali rapide di Mercury 3.
| Campo | Valore |
|---|---|
| Input | Testo |
| Output | Testo |
| Budget di input | 1,000,000 tokens |
| Limite di max_tokens | 131,072 |
Caratteristiche principali
Scritto in parallelo, non un token alla volta
La maggior parte dei modelli linguistici scrive da sinistra a destra, un token dopo l’altro. Mercury è un modello a diffusione: secondo Inception, produce e affina molti token insieme, proprio come i modelli di diffusione per immagini affinano un’immagine intera. Inception presenta questo come il motivo per cui Mercury 3 può superare i 1,000 token al secondo.
Pensato per i casi in cui l’attesa pesa
Inception dichiara 1,068 token al secondo su GPU NVIDIA e descrive Mercury 3 come 4-8 volte più veloce di modelli comparabili. Sono misure dell’editore: vanno lette come una tendenza, non come una promessa. La velocità di qualsiasi API dipende dal carico, dalla lunghezza del prompt e dal livello di ragionamento. Inception cita come casi d’uso gli assistenti vocali, la chat di supporto, gli agenti di ricerca e gli agenti di navigazione.
Un milione di token in ingresso
1,000,000 token corrispondono a circa 750,000 parole inglesi, contro i 260K di Mercury 2.5 secondo Inception. Una conversazione lunga, un manuale o un repository possono essere inviati così come sono nella richiesta, e il modello legge l’originale invece di un riassunto.
Ragionamento che si può abbassare per guadagnare velocità
reasoning_effort accetta none, low, medium o high, e qui il valore predefinito è low. Mantieni none o low per etichettatura, instradamento e risposte rapide, e alza il livello quando un’attività richiede più passaggi. Strumenti, streaming e output JSON funzionano nella stessa chiamata.
Parametri della richiesta
| Parametro | Obbligatorio | Nota |
|---|---|---|
messages | Sì | Per le risposte testuali rapide di Mercury 3, invia conversazione e fonti come testo in ordine e collega ogni risultato dello strumento al |
max_tokens | No | Prevedi insieme risposta visibile e ragionamento fatturato di Mercury 3 in |
reasoning_effort | No | Mercury 3 offre none, low, medium, high, con low predefinito; confronta i livelli per le risposte testuali rapide di Mercury 3, perché un ragionamento più profondo può aumentare… |
stop | No | Termina il testo di Mercury 3 con una sequenza o con una tra un massimo di quattro; la sequenza corrispondente resta esclusa dalla risposta. almeno 1 caratteri · almeno 1 elementi · al massimo 4 elementi |
temperature | No | Mercury 3 accetta temperature da 0.5 a 1; mantieni fissi gli altri controlli di campionamento per confrontare le formulazioni di le risposte testuali rapide di Mercury 3. |
top_p | No | Usa |
tools | No | Fornisci a Mercury 3 definizioni di funzione in formato OpenAI per le risposte testuali rapide di Mercury 3; il modello propone argomenti e la tua applicazione li verifica ed es… al massimo 128 elementi |
parallel_tool_calls | No | Consenti a Mercury 3 di proporre funzioni indipendenti insieme quando le risposte testuali rapide di Mercury 3 richiede più risultati esterni. Predefinito: |
tool_choice | No | Scegli auto, none, required o una funzione specifica per Mercury 3, poi conserva l’ID della chiamata per proseguire le risposte testuali rapide di Mercury 3. |
response_format | No | Chiedi a Mercury 3 testo o JSON strutturato, poi verifica i campi necessari per le risposte testuali rapide di Mercury 3 prima di usarli. |
Prezzi
Input $0.20 / Output $0.70 per 1 milione di token
Casi d’uso
Supporto in tempo reale e assistenti vocali
Quando un cliente aspetta, conta il tempo che passa prima della prima frase utile. Trasmetti la risposta in streaming, lascia reasoning_effort su none o low e inserisci tono e policy nel messaggio di sistema.
Agenti di ricerca e di navigazione
Un agente che chiama uno strumento, legge il risultato e ne chiama un altro passa gran parte del tempo ad aspettare il modello. Affida a Mercury 3 le tue funzioni di ricerca o di lettura delle pagine e lascia che gestisca il ciclo. Inception cita browser-use e gli agenti di ricerca in tempo reale tra i primi partner.
Classificazione su grande volume
Etichetta messaggi, smista ticket o estrai campi dal testo su larga scala. Chiedi un oggetto JSON, imposta una temperatura bassa e usa direttamente il risultato, senza post-elaborazione.
Bozze e riscritture al volo
Risposte brevi, riassunti, feedback didattici e riscritture sembrano quasi istantanei quando la generazione è rapida. Per output lunghi, aumenta max_tokens e trasmetti il testo man mano che arriva.
Consigli avanzati
Tieni basso il ragionamento sui percorsi sensibili alla latenza
Il valore predefinito è low. Usa none per i turni più rapidi e passa a medium o high solo per attività che richiedono pianificazione. Confronta alcuni dei tuoi prompt a ogni livello prima di scegliere un valore predefinito.
Resta nell’intervallo di temperatura
Questo endpoint accetta una temperatura da 0.5 a 1. Un valore basso si adatta a classificazione ed estrazione; uno più alto dà formulazioni più varie nelle bozze.
Imposta
max_tokensin base alla risposta che vuoiIl valore predefinito di
max_tokensè 4,096 e il massimo è 131,072. Il ragionamento, quando è usato, conta nello stesso budget: lascia margine ai livelli di ragionamento più alti e controlla il finish reason.Chiedi una struttura quando a leggere la risposta è il codice
Usa
response_formatper richiedere un oggetto JSON, oppure definisci uno strumento i cui parametri abbiano la forma che ti serve, e valida ciò che torna prima di agire.
Risposte testuali rapide
Mercury 3 affina il testo in parallelo tramite diffusione. Per rispondere a un cliente, invia la domanda, il passaggio pertinente della policy e l’azione successiva attesa come testo; questo endpoint non accetta parti di immagini, video o audio.
Regola l’attesa
Parti da low e confronta none per classificazioni semplici. Ricevi le risposte lunghe in streaming e riserva max_tokens al ragionamento e al testo visibile. La velocità pubblicata da Inception deriva da misure interne e non garantisce la latenza della tua richiesta.
Collega un’azione esterna
Mercury 3 può proporre una funzione; la tua applicazione verifica gli argomenti e la esegue. Restituisci il risultato con il tool_call_id corrispondente per alimentare il turno seguente. Prima di mostrarla al cliente, confronta la risposta finale con la policy fornita.
Le decisioni sui contenuti di Mercury 3 si applicano a le risposte testuali rapide di Mercury 3; le risposte NSFW possono cambiare con richiesta o versione, senza promessa di output senza restrizioni.
Avvio rapido dell’API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "inception/mercury-3/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Nel riferimento dell’API trovi autenticazione, schema completo, polling e gestione degli errori.