Introducción
Chat compatible con OpenAI para Gemini 3.1 Pro Preview. Una ventana de lectura de 1.000.000 de tokens, tres niveles de esfuerzo, 128 esquemas de herramientas y salida JSON en una llamada síncrona.
Gemini 3.1 Pro Preview es el modelo de chat de contexto largo de Google, publicado como un único endpoint compatible con OpenAI. Lee hasta 1.000.000 de tokens y responde con hasta 32.768, unos treinta a uno: entra la biblia entera con todo el historial y sale un turno coherente.
Funciones y aspectos destacados
Lee un estante, escribe un párrafo
1.000.000 de tokens de entrada frente a 32.768 de salida, unos treinta a uno, y la proporción es el manual de instrucciones. Adjunta la biblia, las fichas de personaje y todos los capítulos escritos hasta ahora, y pide una sola respuesta que mueva la escena. Lo que vuelve es corto por diseño y coherente con cada página enviada.
El historial viaja sin comprimir
El rol largo se descoloca sobre todo porque hay que resumir el historial para que quepa. Una ventana de 1.000.000 de tokens suele eliminar ese paso entero: reenvía el texto original en cada turno y el detalle plantado treinta capítulos atrás sigue delante del modelo en vez de en una paráfrasis de sí mismo.
Puede cambiar sin aviso
El ciclo de vida de un modelo en vista previa lo decide Google. Comportamiento, disponibilidad y precio pueden moverse, y puede retirarse. Antes de que sostenga un hilo en producción, ten claro a qué modelo se repliega ese hilo.
Parámetros de la solicitud
| Parámetro | Obligatorio | Descripción |
|---|---|---|
messages | Sí | Turnos de conversación ordenados. El contenido es una cadena o un arreglo de partes text e |
max_tokens | No | Limita la respuesta a 32.768, una treintava parte de la ventana de lectura. Por defecto, 16 384. |
reasoning_effort | No | minimal, low, medium o high. Medium es el valor por defecto: baja a low en los turnos rutinarios y sube a high cuando haya que sopesar el historial o buscar contradicciones. |
stop | No | Hasta 4 secuencias, como cadena o como arreglo. La respuesta termina en cuanto el modelo escribe una de ellas, y el texto que coincide no se devuelve. mínimo 1 caracteres · mínimo 1 elementos · máximo 4 elementos |
seed | No | Cualquier entero. |
temperature | No | De 0 a 2, 1 por defecto. Google recomienda dejar los modelos Gemini 3 en 1,0: por debajo, la generación puede entrar en bucle o degradarse. |
top_p | No | De 0,01 a 1. Ajusta este o temperature, nunca los dos en la misma comparación. |
tools | No | Hasta 128 definiciones de funciones por solicitud. máximo 128 elementos |
tool_choice | No | auto, none, required, o un objeto que nombre una función. |
response_format | No | Pide un objeto JSON y nombra cada clave en el mensaje system. |
Precios
Entrada $1.90 / Salida $11.40 por 1 millón de tokens; Prompts de más de 200K tokens: Entrada $3.80 / Salida $17.10
Por encima de 200 000 tokens de entrada, toda la solicitud pasa a la tarifa de contexto largo.
Casos de uso
Continuar una escena dentro de 300.000 palabras
Envía la biblia, el mapa de relaciones y cada capítulo escrito hasta ahora, y pide un solo turno. No se recuperó ni se muestreó nada, así que una promesa hecha en el primer acto sigue a la vista mientras el modelo escribe el tercero.
Auditoría de continuidad entre capítulos
Pon las reglas del mundo y los capítulos terminados en la misma solicitud y pregunta qué pasajes las contradicen. Lo que vuelve es una lista de conflictos con sus referencias, no una reescritura: leer mucho y responder corto, el terreno propio de esta proporción.
Un juicio sobre un conjunto documental enorme
Carga una especificación completa, un trimestre de tickets o un buzón entero en una llamada y pregunta qué cambió de verdad. Con 32.768 tokens sobra para el hallazgo y las citas que lo sostienen.
El estado de los personajes en JSON para tu aplicación
Pide la posición actual, las heridas, las relaciones y los secretos conocidos de cada personaje como objeto JSON: response_format en json_object, con cada clave nombrada en el mensaje system. Tu partida guardada queda sincronizada con el texto sin ningún analizador de rescate.
Guía de prompts y consejos prácticos
Las reglas en system, la historia en user
Pon las reglas del mundo, el tono que quieres y la longitud de este turno en el mensaje system. La biblia, el mapa de relaciones y el historial van en un único mensaje user, del más antiguo al más reciente, y al final la instrucción de este turno.
Reenvía todo el historial, no lo resumas
La ventana admite 1.000.000 de tokens, normalmente más que una novela terminada. Reenviar el texto original cada turno cuesta tokens de entrada, pero es la continuidad más barata que vas a comprar: no se pierde nada en una paráfrasis.
Límites a tener en cuenta
El tope de respuesta son 32.768 tokens, una treintava parte de la ventana de lectura, así que una solicitud que pida un capítulo completo llegará al límite antes de terminarlo, y un max_tokens por encima falla la validación de entrada. El contenido de los mensajes es texto e imágenes; las partes de video y audio se rechazan. Es un modelo en vista previa: Google puede cambiar su comportamiento o retirarlo, así que ten preparado un modelo de reemplazo antes de darle tráfico de producción. Un response_format JSON da forma a la respuesta, pero tu aplicación sigue teniendo que analizarla y validarla.
Inicio rápido de la API
curl --fail-with-body -sN https://api.spicyapi.ai/v1/chat/completions \
-H "Authorization: Bearer $SPICY_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: $(uuidgen)" \
-d '{
"model": "google/gemini-3.1-pro-preview/chat",
"messages": [
{
"role": "user",
"content": "Summarise the following release notes into three bullet points."
}
],
"stream": true
}' \
| jq --unbuffered -Rrj 'select(startswith("data: ")) | .[6:] | select(. != "[DONE]") | fromjson | if .error then "\n[error] \(.error.message)\n" else (.choices[0].delta.content? // empty) end'
Consulta la referencia de la API para autenticación, el esquema completo, sondeo y gestión de errores.
