Einführung
Mercury 3 von Inception unterstützt reaktionsschnelles Text-Reasoning und Agenteninteraktionen. Die Chat-API verarbeitet Text, bietet ein Eingabebudget von 1,000,000 Token und akzeptiert max_tokens bis 131,072. Streamen Sie den Text von Mercury 3 sofort oder nutzen Sie ein Funktionsergebnis als Grundlage für den nächsten Schritt bei schnelle Textdialoge mit Mercury 3.
| Feld | Wert |
|---|---|
| Eingabe | Text |
| Ausgabe | Text |
| Eingabebudget | 1,000,000 tokens |
| Obergrenze für max_tokens | 131,072 |
| Eingaben | Text |
Wichtige Funktionen und Highlights
Parallel geschrieben, nicht Token für Token
Die meisten Sprachmodelle schreiben von links nach rechts, ein Token nach dem anderen. Mercury ist ein Diffusionsmodell: Laut Inception erzeugt und verfeinert es viele Token gleichzeitig, ähnlich wie Bilddiffusionsmodelle ein ganzes Bild verfeinern. Inception sieht darin den Grund, warum Mercury 3 mit über 1,000 Token pro Sekunde laufen kann.
Gebaut für Einsätze, bei denen Warten stört
Inception nennt 1,068 Token pro Sekunde auf NVIDIA-GPUs und beschreibt Mercury 3 als 4- bis 8-mal schneller als vergleichbare Modelle. Das sind die eigenen Messungen des Herstellers, betrachten Sie sie daher als Richtung, nicht als Zusage. Die Geschwindigkeit jeder API hängt von Auslastung, Prompt-Länge und Denkaufwand ab. Als Anwendungsfälle nennt Inception Sprachsysteme, Support-Chats, Such- und Browser-Agenten.
Eine Million Token Eingabe
1,000,000 Token entsprechen grob 750,000 englischen Wörtern, laut Inception gegenüber 260K bei Mercury 2.5. Ein langer Verlauf, ein Handbuch oder ein Repository kann unverändert in der Anfrage mitgeschickt werden, sodass das Modell das Original statt einer Zusammenfassung liest.
Denkaufwand, den Sie für Tempo senken können
reasoning_effort akzeptiert none, low, medium oder high, wobei low hier der Standard ist. Belassen Sie es bei none oder low für Tagging, Routing und schnelle Antworten, und erhöhen Sie ihn, wenn eine Aufgabe mehrere Schritte braucht. Tools, Streaming und JSON-Ausgabe funktionieren im selben Aufruf.
Request-Parameter
| Parameter | Pflicht | Beschreibung |
|---|---|---|
messages | Ja | Übergeben Sie für schnelle Textdialoge mit Mercury 3 Gespräch und Belege chronologisch als Text und ordnen Sie jedes Werkzeugergebnis seiner ursprünglichen |
max_tokens | Nein | Planen Sie sichtbare Antwort und berechnete Überlegungen von Mercury 3 gemeinsam in |
reasoning_effort | Nein | Mercury 3 bietet none, low, medium, high, standardmäßig low; vergleichen Sie die Stufen für schnelle Textdialoge mit Mercury 3, da gründlicheres Denken Ausgabetokens und Warteze… |
stop | Nein | Beenden Sie den Text von Mercury 3 an einer angegebenen Stoppfolge oder einer von bis zu vier Folgen; die passende Folge selbst erscheint nicht in der Antwort. mindestens 1 Zeichen · mindestens 1 Einträge · höchstens 4 Einträge |
temperature | Nein | Mercury 3 akzeptiert temperature von 0.5 bis 1; halten Sie beim Formulierungsvergleich für schnelle Textdialoge mit Mercury 3 andere Samplingwerte konstant. |
top_p | Nein | Nutzen Sie |
tools | Nein | Geben Sie Mercury 3 Funktionsdefinitionen im OpenAI-Format für schnelle Textdialoge mit Mercury 3; das Modell schlägt Argumente vor, Ihre Anwendung prüft sie und führt die Opera… höchstens 128 Einträge |
parallel_tool_calls | Nein | Erlauben Sie Mercury 3, unabhängige Funktionen gemeinsam vorzuschlagen, wenn schnelle Textdialoge mit Mercury 3 mehrere externe Ergebnisse benötigt. Standardwert: |
tool_choice | Nein | Wählen Sie für Mercury 3 auto, none, required oder eine bestimmte Funktion und bewahren Sie die zurückgegebene Aufruf-ID für schnelle Textdialoge mit Mercury 3 auf. |
response_format | Nein | Fordern Sie bei Mercury 3 Text oder strukturiertes JSON an und prüfen Sie vor der Verwendung die für schnelle Textdialoge mit Mercury 3 benötigten JSON-Felder. |
Preis
Eingabe $0.20 / Ausgabe $0.70 je 1 Mio. Token
Anwendungsfälle
Echtzeit-Support und Sprachassistenten
Wenn ein Kunde wartet, zählt die Zeit bis zum ersten brauchbaren Satz. Streamen Sie die Antwort, belassen Sie reasoning_effort bei none oder low und legen Sie Tonfall und Richtlinien in die System-Nachricht.
Such- und Browser-Agenten
Ein Agent, der ein Tool aufruft, das Ergebnis liest und den nächsten Aufruf startet, verbringt den Großteil seiner Zeit mit dem Warten auf das Modell. Geben Sie Mercury 3 Ihre Such- oder Seitenlese-Funktionen und lassen Sie es die Schleife ausführen. Inception nennt browser-use und Echtzeit-Suchagenten unter seinen frühen Partnern.
Klassifikation in großem Umfang
Nachrichten labeln, Tickets weiterleiten oder Felder aus Text herauslösen, und das in großer Menge. Fordern Sie ein JSON-Objekt an, setzen Sie eine niedrige Temperatur und parsen Sie das Ergebnis direkt, ohne Nachbearbeitung.
Entwürfe und Umformulierungen im Handumdrehen
Kurze Antworten, Zusammenfassungen, Feedback im Tutoring und Umformulierungen wirken fast sofort, wenn die Generierung so schnell ist. Bei langen Ausgaben erhöhen Sie max_tokens und streamen den Text, während er ankommt.
Prompt-Leitfaden und Praxistipps
Denkaufwand auf latenzkritischen Pfaden niedrig halten
Der Standard ist low. Verwenden Sie none für die schnellsten Antworten und wechseln Sie nur bei Aufgaben, die Planung brauchen, zu medium oder high. Vergleichen Sie einige eigene Prompts auf jeder Stufe, bevor Sie einen Standard festlegen.
Im Temperaturbereich bleiben
Dieser Endpunkt akzeptiert Temperaturen von 0.5 bis 1. Ein niedriger Wert passt zu Klassifikation und Extraktion; ein höherer liefert abwechslungsreichere Formulierungen in Entwürfen.
max_tokensauf die gewünschte Antwort abstimmenDer Standard für
max_tokensist 4,096, die Obergrenze 131,072. Denken wird, sofern verwendet, aus demselben Budget bezahlt; lassen Sie bei höheren Denkstufen Reserve und prüfen Sie den finish reason.Struktur anfordern, wenn Code die Antwort liest
Verwenden Sie
response_format, um ein JSON-Objekt anzufordern, oder definieren Sie ein Tool, dessen Parameter die gewünschte Form haben, und validieren Sie das Ergebnis, bevor Sie danach handeln.
Schnelle Textdialoge
Mercury 3 verfeinert Text durch Diffusion parallel. Senden Sie für eine Supportantwort die Kundenfrage, den passenden Richtlinienausschnitt und die gewünschte nächste Handlung als Text; dieser Endpunkt nimmt keine Bild-, Video- oder Audiobestandteile an.
Die Wartezeit steuern
Beginnen Sie mit low und vergleichen Sie bei einfacher Klassifikation none. Streamen Sie lange Antworten und lassen Sie in max_tokens Platz für Überlegungen und sichtbaren Text. Inceptions Geschwindigkeitsangabe stammt aus eigener Messung und verspricht keine bestimmte Latenz für Ihre Anfrage.
Eine Handlung anbinden
Mercury 3 schlägt Funktionsaufrufe vor, Ihre Anwendung prüft die Argumente und führt sie aus. Senden Sie das Ergebnis mit der passenden tool_call_id zurück. Prüfen Sie die abschließende Kundenantwort anhand der mitgesendeten Richtlinie.
Bei schnelle Textdialoge mit Mercury 3 gelten die Inhaltsentscheidungen von Mercury 3; NSFW-Antworten können sich mit Anfrage oder Modellversion ändern, weshalb uneingeschränkte Ausgaben nicht zugesagt werden.
API-Schnellstart
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "inception/mercury-3/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Authentifizierung, vollständiges Schema, Polling und Fehlerbehandlung stehen in der API-Referenz.