Grok 4.5 API

xAI Grok 계열에서 코딩을 맡는 Grok 4.5의 OpenAI 호환 채팅입니다. 한 턴에 text 파트와 image_url 파트를 함께 실을 수 있고, 추론 강도는 xhigh까지 올라가며, 응답 하나는 450,000 토큰에 이릅니다.

xAI는 Grok 4.5를 에이전트형 소프트웨어 개발과 엔지니어링, 워크플로 작업을 위해 공개했고 과학·공학·수학 데이터를 더해 학습시켰으며 grok-4.5-latest와 grok-build-latest라는 별칭으로도 제공합니다. 여기서는 /v1/chat/completions 엔드포인트 하나로 공개하며, 최대 256개의 순서 있는 메시지에 걸쳐 500,000 토큰까지 읽고 응답 하나로 450,000 토큰까지 돌려줍니다. 입력과 캐시 입력, 출력은 서로 따로 계측됩니다. 긴 앞부분을 되풀이하는 에이전트 루프가 실제로 값을 치르는 곳이 바로 이 구분입니다.

다시 보내는 앞부분은 따로 계량됩니다

에이전트 루프는 매 단계마다 같은 system 프롬프트, 같은 tool 정의, 같은 파일 목록을 보내고 새로운 것은 대화의 끝부분뿐입니다. 캐시에서 제공된 입력은 usage에 따로 집계되어 더 싼 자체 단가로 계측됩니다. 켜야 할 것은 없습니다. 단계 사이에 앞쪽 메시지를 그대로 두는 것이 이 기법의 전부이고, 앞부분이 실제로 얼마나 캐시에 얹혔는지는 추측이 아니라 응답이 알려 줍니다.

입력은 텍스트와 이미지, 출력은 텍스트

content는 일반 문자열이거나 파트 배열이고 이 모델은 두 가지 파트를 선언합니다. {"type": "text", "text": "..."} 와 {"type": "image_url", "image_url": {"url": "...", "detail": "auto|low|high"}} 입니다. 스크린숏과 그에 대한 질문이 같은 턴에 도착하고, 이미지 내용은 500,000 토큰 컨텍스트 윈도우에 더해지는 게 아니라 그 안에서 셉니다. 이 엔드포인트에 file이나 PDF 파트는 없으므로 명세서도 로그도 diff도 붙여 넣은 텍스트로 전달해야 합니다. 추론 강도는 low, medium, high, xhigh이고 기본값은 high입니다. 추론 강도는 출력 토큰으로 소비되므로 청구액뿐 아니라 응답 상한에도 반영됩니다.

루프 전체를 컨텍스트에 담은 채로 돌립니다

코딩 에이전트는 매 단계마다 지시와 tool 정의, 파일 목록을 다시 보내고 그때마다 새 토큰 수백 개를 더합니다. 그 전부가 500,000 토큰 컨텍스트 윈도우에 들어가고 반복되는 부분은 캐시 입력으로 계측됩니다. 장문 컨텍스트 요율로 넘어가는 시점은 입력과 캐시 입력을 합쳐 200,000 토큰이 될 때뿐이며, 제출 전 추정치가 값을 치르기 전에 알려 줍니다.

모듈과 테스트와 실패를 한 턴에 담아 리팩터링합니다

모듈 본문과 테스트 파일, 실패한 출력을 함께 붙여 넣고 패치와 그 근거를 요구하세요. 쓰기 전에 끝까지 생각해야 하는 변경이라면 reasoning_effort를 xhigh로 올리세요. 첫 줄이 나오기까지 출력 토큰을 더 쓰지만, 한 줄씩 검토할 변경이라면 치를 만한 비용입니다.

스크린숏과 스택 트레이스를 함께 읽힙니다

실패한 대시보드를 detail high의 image_url 파트로 붙이고 같은 메시지에 스택 트레이스를 텍스트로 넣은 다음, 가능성 순으로 원인을 나열하게 하세요. 그림과 로그가 한 턴에 도착하므로 모델은 사용자의 설명이 아니라 패널 자체를 읽습니다.

마이그레이션 문서를 응답 하나로 받습니다

출력 450,000 토큰이면 마이그레이션 계획 전체나 다시 쓴 모듈, 번역한 매뉴얼이 장 단위 반복 없이 응답 하나에 담깁니다. max_tokens는 명시적으로 올리세요. 기본값 4,096은 오류 없이 긴 생성을 잘라 버립니다. 잘린 결과는 완성된 답과 가장 비슷하게 생긴 실패입니다.

curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
  -H "Authorization: Bearer $SPICY_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Idempotency-Key: $(uuidgen)" \
  -d '{
  "model": "xai/grok-4.5/chat",
  "messages": [
    {
      "role": "user",
      "content": "Summarise the following release notes into three bullet points."
    }
  ],
  "stream": true
}' \
  | jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'

인증, 전체 스키마, 폴링과 오류 처리는 API 레퍼런스에서 확인하세요.