¿Qué es la Ventana de Contexto (Context Window)?

La ventana de contexto (context window) es la cantidad máxima de tokens —pedazos de texto entre palabra y carácter— que un modelo de lenguaje puede procesar en una sola interacción. Funciona como su memoria a corto plazo: todo lo que esté dentro de esa ventana el modelo lo "ve"; todo lo que quede fuera, simplemente no existe para él. Conocer este límite es la diferencia entre una respuesta coherente y un desastre silencioso.

Tip Pro: Cuando tu prompt o conversación se acerca al límite de la ventana, el modelo empieza a "olvidar" las partes del principio. Si trabajas con documentos largos o chats extensos, monitorea el uso de tokens como monitoreas la batería de tu laptop.

¿Qué es?

Cada modelo de lenguaje tiene un límite máximo de tokens que puede manejar por vez. Ese límite es su ventana de contexto. Incluye tanto el mensaje que tú envías (prompt) como la respuesta que el modelo genera.

Ejemplos de ventanas comunes en 2026:

Nota: "Tokens" no son palabras exactas. Un token puede ser una palabra completa (dog → 1 token), una sílaba (learning → 2 tokens: learn + ing) o incluso un carácter. Como regla general, 100 tokens ≈ 75 palabras en inglés y aproximadamente 60 palabras en español.

Modelo mental

Imagina una mesa de trabajo. La ventana de contexto es el tamaño de la mesa. Puedes poner documentos, instrucciones, ejemplos y la respuesta en curso sobre ella. Todo lo que quepa en la mesa, el modelo lo considera. Todo lo que no quepa, queda fuera y el modelo no puede usarlo.

Si sobrecargas la mesa —metes más tokens de los que caben— el modelo no se queja. Simplemente descarta lo que esté más al inicio (lo más antiguo) para hacer espacio. Esto se conoce como "olvido por principio de contexto" y es la fuente más común de errores extraños en aplicaciones con LLMs.

Hay tres tipos de contenido que compiten por el espacio en la ventana:

1. Instrucciones del sistema: el prompt base que define el rol y las reglas.
2. Contexto externo: documentos recuperados (RAG), historial de conversación, ejemplos (few-shot).
3. Respuesta generada: el texto que el modelo está produciendo.

Advertencia: Si tu sistema prompt tiene 2K tokens, añades un RAG con 50K tokens y esperas una respuesta de 10K tokens, necesitas una ventana de al menos 62K tokens. Siempre suma todo antes de elegir un modelo.

¿Cómo se usa?

Gestionar la ventana de contexto no se "instala" —se administra. Son decisiones de diseño en cada interacción.

1. Conoce los límites de tu modelo

Antes de construir cualquier aplicación, revisa la ventana del modelo que usarás. No asumas que todos los modelos tienen 128K. Modelos más pequeños o antiguos pueden tener solo 4K u 8K.

2. Calcula el uso de tokens

Usa un tokenizer (el mismo del modelo) para medir cuánto espacio ocupas.

# Ejemplo con tiktoken (OpenAI)
import tiktoken
 
encoding = tiktoken.encoding_for_model("gpt-4o")
tokens = encoding.encode("Tu texto aquí")
print(len(tokens))

3. Define una estrategia de gestión

Tres estrategias comunes según el caso:

• Recortar (truncation): cortas el contenido más antiguo cuando excedes el límite. Simple pero pierdes información.
• Resumir (summarization): resúmenes periódicos del historial para comprimir información. Más preciso pero añade latencia y costo.
• Ventana deslizante (sliding window): mantienes solo los últimos N tokens de la conversación. Balance entre simplicidad y retención.

4. Monitorea en producción

En aplicaciones reales, loguea el uso de tokens por interacción. Cuando una consulta se acerque al 80% del límite, activa alertas o aplica automáticamente la estrategia de gestión.

Tip Pro: Para conversaciones largas, usa un "resumen acumulativo": cada N mensajes, pídele al modelo que resuma la conversación hasta ese punto en 100 tokens, y usa ese resumen como contexto en lugar del historial completo. Así estiras el alcance efectivo sin aumentar tokens.

¿Cuándo usarlo / cuándo no?

Presta atención a la ventana de contexto cuando:

• Construyes chatbots con historial largo (atención al cliente, tutores, asistentes)
• Procesas documentos extensos con RAG (cada chunk recuperado ocupa espacio en la ventana)
• Usas few-shot prompting con muchos ejemplos (cada ejemplo suma tokens)
• La precisión importa y no puedes permitir que el modelo "olvide" instrucciones tempranas

No necesitas obsesionarte cuando:

• La interacción es de una sola pregunta y respuesta corta (entra en cualquier ventana)
• Usas modelos con ventanas muy grandes (1M+ tokens) y tu contenido es moderado
• El riesgo de que el modelo olvide algo no tiene consecuencias graves (prototipos personales, experimentación)

Tip Pro: Cuando migres de un modelo a otro (ej. de GPT-4o de 128K a Gemini de 1M), no asumas que todo funciona igual. Los modelos con ventanas gigantes suelen tener menor precisión en la recuperación del centro de la ventana ("perder el aguja en el pajar"). Siempre prueba con tus datos reales.