Los chatbots de inteligencia artificial parecen conversar como humanos, pero en realidad no poseen memoria propia. Cada respuesta se genera a partir de una copia del modelo que recibe la pregunta junto al historial de la charla, llamado contexto. Cuando ese contexto se llena, el sistema debe decidir qué conservar y qué descartar, y ahí comienza la pérdida del hilo.
Sin memoria, con contexto limitado
El modelo de lenguaje mantiene su estado inmutable; no incorpora la consulta a una memoria persistente. Por eso, para responder sin perder el hilo, la plataforma adjunta al mensaje el historial completo. Sin embargo, el contexto tiene un tamaño máximo y, al agotarse, el sistema debe resumir o eliminar información, lo que reduce la precisión.
Sesgos de primacía y recencia
Al igual que los humanos, los modelos de IA muestran sesgos de primacía y recencia: prestan más atención a la información al inicio y al final del contexto, mientras que la parte central se degrada. Este patrón se explica porque durante el entrenamiento el modelo aprende a fijar la atención donde suelen aparecer instrucciones clave.
El reto de los textos extensos
Cuando se les pide generar textos largos –informes, código o menús anuales– los modelos pierden la coherencia. Cada fragmento se crea leyendo la consulta, el contexto original y lo ya escrito, lo que genera una sobrecarga de información y errores acumulativos, conocidos como “alucinaciones”. Estudios recientes demuestran que, a medida que el texto crece, el rendimiento empeora y ninguna de las IA evaluadas completó satisfactoriamente tareas complejas de larga duración.
Implicancias para la educación
Para docentes y estudiantes, comprender estas limitaciones es esencial. Saber que la IA no retiene información y que su atención se concentra en los extremos del contexto permite diseñar prompts más claros, dividir tareas extensas en bloques manejables y validar siempre la salida del modelo.
