¿Qué es la ventana de contexto (context window)?

Contenido revisado:

La ventana de contexto (context window) es la cantidad máxima de texto, medida en tokens, que un modelo de lenguaje puede tener en cuenta a la vez para generar una respuesta. Incluye tanto lo que el usuario escribe como lo que el modelo lleva respondido en la conversación: si se supera ese límite, el contenido más antiguo deja de influir en la salida.

El tamaño de la ventana define qué tan largo puede ser un documento, un código o una conversación que el modelo procesa sin perder el hilo. Los modelos actuales manejan ventanas muy amplias: Google Gemini ofrece hasta un millón de tokens, mientras que Claude y GPT trabajan con cientos de miles. Una ventana grande permite resumir libros enteros o analizar bases de código completas, aunque procesar más tokens encarece y ralentiza cada consulta, y los modelos pueden prestar menos atención a la información que queda en el medio de un contexto muy largo.

¿Una ventana mayor resuelve todos los problemas?

No. Más tokens permiten enviar documentos e historial mayores, pero aumentan costo y pueden dificultar recuperar la información correcta. El contexto tampoco es memoria permanente: lo que queda fuera deja de participar en la respuesta. Los buenos sistemas seleccionan fragmentos relevantes, organizan instrucciones y prueban posiciones distintas. Compare la capacidad anunciada con la calidad real en contextos largos.

Referencia primaria: Anthropic — documentación sobre ventanas de contexto

Ejemplo práctico

Un contrato de 80 000 tokens puede caber en la ventana anunciada, pero aún compite con instrucciones, historial y espacio de respuesta. En vez de enviar todo sin estructura, la aplicación separa secciones, recupera las relevantes y prueba preguntas cuya evidencia aparece al inicio, medio y final.

Cómo distinguirlo y evaluarlo

La ventana de contexto es el límite de entrada y salida considerado en una interacción; no es memoria permanente ni garantía de que cada detalle se use bien. Algunos productos resumen conversaciones o guardan preferencias fuera de la ventana, mecanismos que deben evaluarse aparte.

Lista de comprobación

  • Cuente instrucciones, documentos, herramientas y salida en el presupuesto.
  • Pruebe recuperación en distintas posiciones y tamaños.
  • Compare contexto largo con RAG en calidad, costo y latencia.

Fuente primaria adicional: OpenAI Developers — generación de texto y contexto

Preguntas frecuentes

¿En qué se mide la ventana de contexto?

En tokens, las unidades en que el modelo divide el texto. Un token equivale aproximadamente a 4 caracteres o a unas tres cuartas partes de una palabra en inglés; en español la proporción suele ser algo menor.

¿Una ventana de contexto más grande significa mejor memoria?

No del todo. Permite procesar más texto de una sola vez, pero la ventana se vacía al terminar la sesión: no es memoria permanente. Para recordar entre conversaciones se usan otras técnicas, como bases de datos o memoria explícita.