Wprowadzenie
Mercury 3 od Inception służy do zadań związanych z szybkim rozumowaniem tekstowym i interakcjami agentów. API czatu przyjmuje tekst, udostępnia budżet wejścia 1,000,000 tokenów i przyjmuje max_tokens do 131,072. Obsługiwane są odpowiedzi strumieniowe i wywołania funkcji.
| Pole | Wartość |
|---|---|
| Wejście | Tekst |
| Wyjście | Tekst |
| Budżet wejścia | 1,000,000 tokens |
| Limit max_tokens | 131,072 |
| Dane wejściowe | tekst |
Najważniejsze funkcje
Pisany równolegle, nie token po tokenie
Większość modeli językowych pisze od lewej do prawej, token po tokenie. Mercury jest modelem dyfuzyjnym: według Inception tworzy i poprawia wiele tokenów naraz, podobnie jak modele dyfuzyjne generujące obrazy dopracowują cały obraz. Inception przedstawia to jako powód, dla którego Mercury 3 może działać z szybkością ponad 1,000 tokenów na sekundę.
Stworzony tam, gdzie czekanie przeszkadza
Inception podaje 1,068 tokenów na sekundę na procesorach graficznych NVIDIA i opisuje Mercury 3 jako 4–8 razy szybszy od porównywalnych modeli. To pomiary samego wydawcy, więc traktuj je jako kierunek, a nie obietnicę: szybkość każdego API zależy od obciążenia, długości promptu i poziomu rozumowania. Inception wymienia jako przypadki użycia asystentów głosowych, czat wsparcia, agentów wyszukiwania i agentów przeglądarkowych.
Milion tokenów wejścia
1,000,000 tokenów to mniej więcej 750,000 angielskich słów, wobec 260K w Mercury 2.5 według Inception. Długi wątek, instrukcja obsługi czy repozytorium mogą trafić do zapytania w niezmienionej postaci, więc model czyta oryginał, a nie streszczenie.
Rozumowanie, które można przyciszyć dla szybkości
reasoning_effort przyjmuje none, low, medium lub high, a tutaj domyślnie jest low. Zostaw none lub low do etykietowania, kierowania i szybkich odpowiedzi, a podnieś poziom, gdy zadanie wymaga kilku kroków. Narzędzia, strumieniowanie i wyjście JSON działają w tym samym wywołaniu.
Parametry żądania
| Parametr | Wymagane | Uwaga |
|---|---|---|
messages | Tak | Przy zadaniu „szybkie odpowiedzi tekstowe modelu Mercury 3” przekaż rozmowę i źródła jako tekst w kolejności, wiążąc wynik każdego narzędzia z pierwotnym |
max_tokens | Nie | W |
reasoning_effort | Nie | Model Mercury 3 udostępnia none, low, medium, high, domyślnie low; porównaj poziomy przy zadaniu „szybkie odpowiedzi tekstowe modelu Mercury 3”, bo głębsze rozumowanie może zwię… |
stop | Nie | Zakończ tekst modelu Mercury 3 na jednej sekwencji lub dowolnej z maksymalnie czterech; dopasowana sekwencja nie trafia do odpowiedzi. od 1 znaków · od 1 elementów · do 4 elementów |
temperature | Nie | Model Mercury 3 przyjmuje temperature od 0.5 do 1; porównując sformułowania dla zadania „szybkie odpowiedzi tekstowe modelu Mercury 3”, zachowaj pozostałe ustawienia próbkowania. |
top_p | Nie | Użyj |
tools | Nie | Przekaż modelowi Mercury 3 definicje funkcji w formacie OpenAI do zadania „szybkie odpowiedzi tekstowe modelu Mercury 3”; model proponuje argumenty, a aplikacja je sprawdza i wy… do 128 elementów |
parallel_tool_calls | Nie | Zezwól modelowi Mercury 3 proponować niezależne wywołania razem, gdy zadanie „szybkie odpowiedzi tekstowe modelu Mercury 3” wymaga kilku wyników zewnętrznych. Domyślnie: |
tool_choice | Nie | Wybierz auto, none, required lub konkretną funkcję dla modelu Mercury 3 i zachowaj zwrócony identyfikator wywołania przy kontynuacji zadania „szybkie odpowiedzi tekstowe modelu… |
response_format | Nie | Poproś model Mercury 3 o tekst lub uporządkowany JSON i sprawdź pola potrzebne do zadania „szybkie odpowiedzi tekstowe modelu Mercury 3”, zanim użyje ich aplikacja. |
Cennik
Wejście $0.20 / Wyjście $0.70 za 1 mln tokenów
Zastosowania
Wsparcie w czasie rzeczywistym i asystenci głosowi
Gdy klient czeka, liczy się czas do pierwszego użytecznego zdania. Strumieniuj odpowiedź, zostaw reasoning_effort na none lub low, a ton i zasady umieść w wiadomości systemowej.
Agenci wyszukiwania i przeglądarki
Agent, który wywołuje narzędzie, czyta wynik i wywołuje kolejne, większość czasu spędza na czekaniu na model. Przekaż Mercury 3 swoje funkcje wyszukiwania lub czytania stron i pozwól mu prowadzić pętlę. Inception wśród wczesnych partnerów wymienia browser-use oraz agentów wyszukiwania w czasie rzeczywistym.
Klasyfikacja na dużą skalę
Etykietuj wiadomości, kieruj zgłoszenia albo wyciągaj pola z tekstu w dużej skali. Poproś o obiekt JSON, ustaw niską temperaturę i parsuj wynik bezpośrednio, bez dodatkowej obróbki.
Szkice i przepisywanie w locie
Krótkie odpowiedzi, streszczenia, informacja zwrotna dla uczniów i przeróbki wydają się prawie natychmiastowe, gdy generowanie jest szybkie. Przy długich wynikach zwiększ max_tokens i strumieniuj tekst w miarę jego powstawania.
Wskazówki
Trzymaj niskie rozumowanie na ścieżkach wrażliwych na opóźnienia
Domyślnie jest low. Do najszybszych odpowiedzi użyj none, a na medium lub high przechodź tylko przy zadaniach wymagających planowania. Zanim wybierzesz wartość domyślną, porównaj kilka swoich promptów na każdym poziomie.
Pozostań w zakresie temperatury
Ten endpoint przyjmuje temperaturę od 0.5 do 1. Niższa wartość pasuje do klasyfikacji i ekstrakcji; wyższa daje bardziej zróżnicowane sformułowania w szkicach.
Ustaw
max_tokenspod odpowiedź, której potrzebujeszDomyślna wartość
max_tokensto 4,096, a limit to 131,072. Rozumowanie, gdy jest używane, wlicza się w ten sam budżet; przy wyższych poziomach zostaw zapas i sprawdzaj finish reason.Proś o strukturę, gdy odpowiedź czyta kod
Użyj
response_format, aby poprosić o obiekt JSON, albo zdefiniuj narzędzie, którego parametry mają potrzebny kształt, i zweryfikuj wynik, zanim na nim zadziałasz.
Szybkie odpowiedzi tekstowe
Mercury 3 równolegle dopracowuje tekst metodą dyfuzji. Aby przygotować odpowiedź dla klienta, wyślij pytanie, odpowiedni fragment zasad i oczekiwane następne działanie jako tekst; ten endpoint nie przyjmuje części obrazowych, wideo ani audio.
Dostosuj czas odpowiedzi
Zacznij od low, a przy prostym klasyfikowaniu porównaj none. Długie odpowiedzi odbieraj strumieniowo, zostawiając w max_tokens miejsce na rozumowanie i widoczny tekst. Szybkość podana przez Inception pochodzi z własnych pomiarów i nie gwarantuje opóźnienia Twojego żądania.
Podłącz działanie zewnętrzne
Mercury 3 może zaproponować funkcję, ale argumenty sprawdza i operację wykonuje aplikacja. Odeślij wynik z odpowiednim tool_call_id, aby wykorzystać go w następnym kroku. Przed pokazaniem odpowiedzi klientowi porównaj ją z przekazanymi zasadami.
Przy zadaniu „szybkie odpowiedzi tekstowe modelu Mercury 3” obowiązują decyzje modelu Mercury 3 dotyczące treści; odpowiedzi NSFW mogą się zmieniać wraz z żądaniem lub wersją, bez obietnicy nieograniczonego wyniku.
Szybki start z API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "inception/mercury-3/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Uwierzytelnianie, pełny schemat, odpytywanie i obsługę błędów opisuje dokumentacja API.