DeepSeek V4.1 Flash API

DeepSeek V4.1 Flash는 처리량에 초점을 둔 DeepSeek의 장문 컨텍스트 모델로, 여기서는 /v1/chat/completions의 OpenAI 호환 엔드포인트 하나로 제공합니다. 최대 256개 메시지에 걸쳐 1,048,576토큰까지 읽고 응답 하나로 최대 384,000토큰을 돌려줄 수 있으며, 추론 강도 기본값은 high입니다.

메시지에는 텍스트와 이미지를 담을 수 있습니다. tool_choice와 함께 도구 최대 128개, response_format을 통한 JSON 출력, SSE 스트리밍을 같은 호출에서 쓸 수 있고, 과금은 입력, 캐시 입력, 출력으로 나뉩니다.

Flash 모델에서 긴 출력

응답 상한은 384,000토큰이고 창은 1,048,576토큰입니다. 대량 문서 전체 추출, 긴 번역, 테스트 스위트 전체가 응답 하나로 돌아오므로, 서로의 출력을 본 적 없는 여러 호출을 이어 붙일 필요가 없습니다.

추론은 출력 예산을 나눠 씁니다

이 모델은 답하기 전에 추론하고, 그 추론은 max_tokens에서 빠집니다. 상한이 너무 작으면 생각에 모두 써 버릴 수 있습니다. 120토큰으로 측정했을 때 응답은 내용 없이 돌아왔고, 그 요청은 답으로 과금되지 않고 실패로 처리되어 환불되었습니다.

같은 본문에서 두 단계 추론 강도

reasoning_effort 기본값은 high이고, 대량 처리에는 더 가벼운 low를 씁니다. 전환은 같은 요청의 문자열 하나이므로 대량 처리와 그 실패분을 꼼꼼히 다시 돌리는 작업이 하나의 연동을 공유합니다.

문서 전체에서 추출

계약서 묶음이나 정책 아카이브 전체를 response_format json_object로 보내고, 의무나 조항을 하나하나 구조화된 행으로 요청하세요. 출력에 384,000토큰의 여유가 있으니 표 전체가 한 번에 돌아옵니다.

긴 보고서가 딸린 코드 리뷰

핸들러, 마이그레이션, 테스트까지 서비스 전체를 요청 하나에 넣고 파일과 줄을 적어 결함을 요구하세요. 미리 쪼개 둔 것이 없으니 컨트롤러와 마이그레이션에 걸친 버그도 한 번에 보이고, 보고서에는 모든 결과를 담을 공간이 있습니다.

함수를 호출하는 에이전트

요청 하나에 도구를 최대 128개까지 선언하고, 모델이 호출해도 되는지는 tool_choice에 맡기세요. 결과는 tool 역할 메시지로 돌아오고, assistant 턴의 reasoning_content가 이전 단계의 생각을 이어 주므로 계획을 처음부터 다시 세우지 않습니다.

curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
  -H "Authorization: Bearer $SPICY_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Idempotency-Key: $(uuidgen)" \
  -d '{
  "model": "deepseek/v4.1-flash/chat",
  "messages": [
    {
      "role": "user",
      "content": "Summarise the following release notes into three bullet points."
    }
  ],
  "stream": true
}' \
  | jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'

인증, 전체 스키마, 폴링과 오류 처리는 API 레퍼런스에서 확인하세요.