소개
Gemini 3.5 Flash-Lite의 OpenAI 호환 채팅입니다. 1,048,576 토큰 읽기 창, 기본값이 minimal인 추론 강도 네 단계, 도구 정의 128개, JSON 출력이 동기 호출 한 번에 들어갑니다. 토막으로 받고 싶으면 stream: true를 넣으세요.
Gemini 3.5 Flash-Lite는 Google이 비용을 앞세워 만든 채팅 모델이고, 여기서는 OpenAI 호환 엔드포인트 하나로만 제공합니다. 요청 한 번에 최대 1,048,576 토큰을 읽고 최대 65,536 토큰으로 답하며, 추론 강도의 기본값이 가장 싸고 가장 빠른 minimal입니다. 그래서 분류, 번역, 단순한 데이터 정리는 따로 지정하지 않는 한 가장 낮은 단계로 돕니다.
핵심 기능 및 하이라이트
한 번에 수천 줄씩 들어오는 일을 받는 자리
어려운 질문 하나가 아니라 줄이 만 개인 일에서는 호출 한 번의 값이 곧 그 일을 할지 말지를 정합니다. 이 모델은 바로 그 자리에 두려고 있습니다. 모든 줄을 모델에 통과시켜도 될 만큼 싸고, 보고 있는 동안 대기열이 줄어들 만큼 빠릅니다.
네 단계, 그리고 기본값이 가장 싼 단계
reasoning_effort는 minimal, low, medium, high를 받고 기본값은 minimal입니다. 아무것도 보내지 않으면 이 모델이 내놓을 수 있는 가장 싸고 빠른 답을 받는다는 뜻입니다. 더 따져 봐야 하는 건은 그 요청 하나만 단계를 올리면 되고, 연동 전체를 바꿀 필요는 없습니다.
자료 한 벌을 요청 한 번에
읽기 창은 1,048,576 토큰입니다. 긴 명세, 전체 녹취, 한 달치 로그를 여러 창으로 잘랐다가 다시 이어 붙이지 않고 한 번에 넘길 수 있습니다. 입력 토큰은 실측으로 과금하므로 호출 횟수만이 아니라 자료의 부피를 봐야 합니다.
요청 파라미터
| 파라미터 | 필수 | 설명 |
|---|---|---|
messages | 예 | 오래된 순서대로 놓은 턴입니다. 내용은 문자열이거나 텍스트, |
max_tokens | 아니요 | 응답을 65,536에서 자릅니다. 기본값은 4,096입니다. |
reasoning_effort | 아니요 | minimal, low, medium, high이고 기본은 minimal입니다. 즉 아무것도 보내지 않으면 가장 싸고 빠른 단계로 돕니다. |
stop | 아니요 | 최대 4개의 정지 시퀀스를 문자열 또는 배열로 지정합니다. 모델이 그중 하나를 쓰는 즉시 응답이 끝나며, 일치한 텍스트 자체는 반환되지 않습니다. 1자 이상 · 1개 이상 · 4개 이하 |
seed | 아니요 | 임의의 정수입니다. 다른 조건이 같은 요청에 같은 seed를 쓰면 응답이 거의 그대로 재현되므로, 한 번에 한 가지만 바꿔 공정하게 비교할 수 있습니다. |
temperature | 아니요 | 0에서 2까지, 기본 1입니다. Google은 Gemini 3 계열을 기본값 1.0 그대로 쓰라고 권하고, 1.0 아래로 내리면 같은 말을 맴돌거나 품질이 떨어질 수 있습니다. |
top_p | 아니요 | 0.01에서 1입니다. 이것과 temperature 중 하나만 움직이고 같은 비교에서 둘 다 건드리지 마세요. |
tools | 아니요 | 요청 하나에 함수 정의 최대 128개입니다. 128개 이하 |
tool_choice | 아니요 | auto, none, required 또는 함수 하나를 지정하는 객체입니다. |
response_format | 아니요 | JSON 객체를 요구하고 키는 전부 system 메시지에서 이름으로 지정하세요. 자유 서술이 이미 가지고 있는 열의 모양으로 돌아오는 이유입니다. |
요금
입력 $0.30 / 출력 $2.50 100만 토큰당
활용 사례
대량 분류와 라벨링
티켓 분배, 채팅 로그 태깅, 들어온 메일을 담당자에게 배정하기. 고정된 system 하나, 호출 한 번에 한 줄, 강도는 minimal 그대로 두면 정규식이 아니라 모델이 대기열 전체를 훑습니다.
대량 번역
제품 문구, 지원 답변, 카탈로그 카피. 지시와 용어집은 system 메시지에 두고 원문은 user 메시지에 넣습니다. 분량이 많다는 것이 더는 안 하는 이유가 되지 않습니다.
자유 서술을 고정 필드로
response_format으로 JSON 객체를 요구하고 system 메시지에서 키를 하나씩 이름으로 지정해, 구조 없는 메모를 데이터베이스에 이미 있는 열로 접어 넣게 하세요. 파싱과 검증은 여전히 여러분 쪽 일입니다.
에이전트 루프의 조용한 단계들
에이전트가 밟는 단계 대부분은 결정적인 그 한 걸음이 아닙니다. 페이지를 다시 읽고, 결과가 관련 있는지 판단하고, 방금 일어난 일을 한 줄로 정리하는 일입니다. 그런 단계는 여기로 보내고 비싼 모델은 실제로 결정하는 단계에 남겨 두세요.
프롬프트 가이드 및 실전 팁
지시는 system, 재료는 user
작업 설명과 출력 모양, 용어 규칙을 system 메시지 하나에 모으고 user 메시지에는 그 줄, 그 단락, 그 문서만 넣으세요. 한 배치를 도는 동안 system을 고정해 두어야 결과끼리 비교가 됩니다.
강도는 놔두고, 필요한 한 번만 올립니다
minimal이 기본값이고 배치의 대부분은 그 단계로 돌려야 합니다. 판단이 필요한 항목을 만나면 그 요청 하나만 low, medium, high로 올리세요. 같은 요청 본문의 문자열 하나이므로 나머지는 그대로입니다.
미리 감안할 한계
응답 상한은 65,536 토큰이고 그보다 큰 max_tokens는 그 자리에서 검증에 걸립니다. 메시지 내용은 텍스트, 이미지, 비디오를 받으며 오디오 파트는 거절됩니다. 비디오는 업로드한 파일로 보내며, 요청 한 건에 담는 비디오는 합계 14 MB까지 가능합니다. JSON response_format은 응답의 모양을 잡아 주지만 파싱과 검증은 애플리케이션 쪽 일입니다. 모델 안의 지식은 2026년 3월에서 멈추므로 그 이후의 일은 프롬프트로 넣어야 합니다.
API 빠른 시작
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "google/gemini-3.5-flash-lite/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
인증, 전체 스키마, 폴링과 오류 처리는 API 레퍼런스에서 확인하세요.
