소개
Mercury 3은 Inception의 모델로, 빠른 텍스트 추론과 에이전트 상호작용에 활용할 수 있습니다. 지원하는 입력은 텍스트이며 입력 예산은 1,000,000토큰, max_tokens 상한은 131,072입니다. 스트리밍과 함수 호출도 지원합니다.
| 항목 | 값 |
|---|---|
| 입력 | 텍스트 |
| 출력 | 텍스트 |
| 입력 예산 | 1,000,000 tokens |
| max_tokens 상한 | 131,072 |
핵심 기능 및 하이라이트
토큰 하나씩이 아니라 병렬로 작성합니다
대부분의 언어 모델은 왼쪽에서 오른쪽으로, 토큰을 하나씩 순서대로 생성합니다. Mercury는 확산 모델입니다. Inception에 따르면 여러 토큰을 한 번에 생성하고 다듬는데, 이미지 확산 모델이 그림 전체를 점차 다듬는 방식과 비슷합니다. Inception은 이것이 Mercury 3이 초당 1,000 토큰이 넘는 속도로 동작할 수 있는 이유라고 설명합니다.
기다림이 불편한 곳을 위해 만들었습니다
Inception은 NVIDIA GPU에서 초당 1,068 토큰을 기록했다고 밝히며, Mercury 3이 비슷한 모델보다 4~8배 빠르다고 설명합니다. 이는 공급사가 직접 측정한 수치이므로 약속이 아니라 방향으로 보시기 바랍니다. 모든 API의 속도는 부하, 프롬프트 길이, 추론 강도에 따라 달라집니다. Inception이 든 사용 사례는 음성, 고객 지원 채팅, 검색 에이전트, 브라우저 에이전트입니다.
입력 100만 토큰
1,000,000 토큰은 영어 단어로 약 750,000개에 해당하며, Inception에 따르면 Mercury 2.5의 260K에서 늘어났습니다. 긴 대화, 매뉴얼, 저장소를 요약하지 않고 그대로 요청에 담을 수 있으므로, 모델은 요약본이 아닌 원문을 읽습니다.
속도를 위해 추론을 낮출 수 있습니다
reasoning_effort는 none, low, medium, high 중 하나를 받으며, 여기서 기본값은 low입니다. 태깅, 라우팅, 빠른 응답에는 none이나 low를 유지하고, 여러 단계가 필요한 작업에서만 올리십시오. 도구, 스트리밍, JSON 출력은 같은 호출에서 함께 사용할 수 있습니다.
요청 파라미터
| 파라미터 | 필수 | 설명 |
|---|---|---|
messages | 예 | Mercury 3의 빠른 텍스트 응답에 필요한 대화와 근거를 텍스트로 순서대로 전달하고 각 도구 결과에 원래 tool_call_id를 연결합니다. 1개 이상 · 256개 이하 |
max_tokens | 아니요 | Mercury 3의 max_tokens는 표시되는 답변과 과금 대상 추론을 합한 한도이며 기본값은 4096, 최댓값은 131072이고 한도를 높여도 토큰 단가는 바뀌지 않습니다. |
reasoning_effort | 아니요 | Mercury 3은 none, low, medium, high를 제공하며 기본값은 low입니다. Mercury 3의 빠른 텍스트 응답에서 수준을 비교하면 깊은 추론에 따른 출력 토큰과 대기 시간 증가를 확인할 수 있습니다. |
stop | 아니요 | Mercury 3의 생성을 멈출 문자열을 하나 또는 최대 4개 지정하며 일치한 문자열 자체는 답변에 포함하지 않습니다. 1자 이상 · 1개 이상 · 4개 이하 |
temperature | 아니요 | Mercury 3의 temperature 범위는 0.5~1이며 Mercury 3의 빠른 텍스트 응답의 표현을 비교할 때 다른 샘플링 설정을 고정합니다. |
top_p | 아니요 | Mercury 3의 top_p는 누클리어스 샘플링을 조절하며 Mercury 3의 빠른 텍스트 응답에서 효과를 확인할 때 temperature와 따로 변경합니다. |
tools | 아니요 | Mercury 3의 빠른 텍스트 응답에 필요한 함수를 OpenAI 형식으로 Mercury 3에 전달하며 모델이 인수를 제안하고 앱에서 검증·실행합니다. 128개 이하 |
parallel_tool_calls | 아니요 | Mercury 3의 빠른 텍스트 응답에 외부 결과가 여러 개 필요할 때 Mercury 3이 독립적인 함수 호출을 함께 제안하도록 허용합니다. 기본값: |
tool_choice | 아니요 | Mercury 3에서 auto, none, required 또는 특정 함수를 선택하고 Mercury 3의 빠른 텍스트 응답을 이어 갈 때 반환된 호출 ID를 유지합니다. |
response_format | 아니요 | Mercury 3에 텍스트 또는 구조화 JSON을 요청하고 Mercury 3의 빠른 텍스트 응답에 사용할 JSON 필드를 앱에서 검증합니다. |
요금
입력 $0.20 / 출력 $0.70 100만 토큰당
활용 사례
실시간 고객 지원과 음성 어시스턴트
고객이 기다리고 있을 때는 첫 유용한 문장이 나오기까지의 시간이 중요합니다. 응답을 스트리밍하고, reasoning_effort는 none이나 low로 두며, 말투와 정책은 system 메시지에 담으십시오.
검색 및 브라우저 에이전트
도구를 호출하고 결과를 읽은 뒤 다음 도구를 호출하는 에이전트는 대부분의 시간을 모델 응답을 기다리는 데 씁니다. 검색 기능이나 페이지 읽기 기능을 Mercury 3에 제공하고 반복 과정을 맡기십시오. Inception은 초기 파트너로 browser-use와 실시간 검색 에이전트를 언급합니다.
대량 분류
메시지에 라벨을 붙이고, 문의를 분배하고, 텍스트에서 필드를 대량으로 추출합니다. JSON 객체를 요청하고 temperature를 낮게 설정한 뒤, 후처리 없이 결과를 바로 파싱하십시오.
즉석 초안 작성과 다시 쓰기
생성이 빠르면 짧은 답변, 요약, 학습 피드백, 문장 다시 쓰기가 거의 즉시 끝나는 느낌을 줍니다. 긴 출력이라면 max_tokens를 올리고, 텍스트가 도착하는 대로 스트리밍하십시오.
프롬프트 가이드 및 실전 팁
지연에 민감한 경로에서는 추론을 낮게 유지하기
기본값은 low입니다. 가장 빠른 응답에는 none을 사용하고, 계획이 필요한 작업에서만 medium이나 high로 옮기십시오. 기본값을 정하기 전에 각 단계에서 직접 쓰는 프롬프트 몇 개를 비교해 보십시오.
temperature 범위 안에서 사용하기
이 엔드포인트는 temperature를 0.5에서 1 사이로 받습니다. 낮은 값은 분류와 추출에 맞고, 높은 값은 초안에서 더 다양한 표현을 만들어 냅니다.
원하는 답변 길이에 맞춰
max_tokens설정하기max_tokens의 기본값은 4,096이고 상한은 131,072입니다. 사고 과정을 사용하면 그 토큰도 같은 예산에서 차감되므로, 추론 강도가 높을수록 여유를 두고 finish reason을 확인하십시오.
코드가 답변을 읽을 때는 구조를 요청하기
response_format으로 JSON 객체를 요청하거나, 필요한 형태의 매개변수를 가진 도구를 정의하십시오. 돌아온 결과는 실행하기 전에 검증하십시오.
빠른 텍스트 처리
Mercury 3은 확산 방식으로 텍스트를 병렬로 다듬습니다. 고객 문의에는 질문, 관련 정책 발췌문, 필요한 다음 조치를 텍스트로 전달합니다. 이 엔드포인트는 이미지·영상·오디오 부품을 받지 않습니다.
응답 시간을 조절합니다
추론은 low로 시작하고 단순 분류에서는 none과 비교합니다. 긴 답변은 스트리밍으로 받고 max_tokens에는 추론과 표시되는 답변을 함께 담을 여유를 둡니다. Inception의 속도 수치는 자체 환경의 측정값이며 개별 요청의 지연 시간을 보장하지 않습니다.
외부 작업과 연결합니다
Mercury 3이 제안한 함수는 앱에서 인수를 검증한 뒤 실행합니다. 결과에 대응하는 tool_call_id를 붙여 보내면 다음 응답에서 작업 결과를 활용합니다. 고객에게 보여 주기 전에 제공한 정책과 답변을 대조합니다.
Mercury 3의 빠른 텍스트 응답에는 Mercury 3 자체의 콘텐츠 판단이 적용되며 NSFW 응답은 요청이나 모델 버전에 따라 달라지므로 무제한 출력을 약속하지 않습니다.
API 빠른 시작
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "inception/mercury-3/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
인증, 전체 스키마, 폴링과 오류 처리는 API 레퍼런스에서 확인하세요.