¿Qué son las Alucinaciones en los LLMs?

¿Qué es?

Una alucinación en un LLM es cuando el modelo genera información que es factualmente incorrecta, inventada o inconsistente, pero presentada con la misma seguridad y fluidez que la información correcta. El modelo no "miente" (no tiene intención), simplemente produce texto plausible basado en patrones estadísticos, sin un concepto de verdad objetiva.

Las alucinaciones pueden ser:

• Factuales: El modelo inventa hechos, citas, fechas o fuentes.
• De fidelidad: El modelo ignora instrucciones del prompt o contradice el contexto.
• De consistencia interna: El modelo se contradice dentro de la misma respuesta.

Modelo mental

Imagina un bibliotecario que ha leído millones de libros pero no tiene memoria de cuáles son reales. Cuando le preguntas algo, te responde combinando información de todos los libros, pero sin poder distinguir entre una enciclopedia y una novela de ficción. Te dará respuestas que suenan autoritativas pero pueden ser completamente inventadas.

¿Cómo se mitigan?

No existe una solución perfecta, pero hay estrategias efectivas:

# 1. Reducir temperatura para respuestas más factuales
response = openai.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": prompt}],
    temperature=0.1
)
 
# 2. Sistema RAG: proporcionar contexto verificado
context = retrieve_from_database(user_query)
response = openai.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "system", "content": f"Responde basándote ÚNICAMENTE en:\n{context}"},
        {"role": "user", "content": user_query}
    ]
)
 
# 3. Prompting que obliga a verificar
def safe_prompt(query):
    return f"""Responde solo si estás 100% seguro. 
    Si no estás seguro, di 'No tengo información suficiente'.
    Pregunta: {query}"""

¿Cuándo preocuparse / cuándo no?

Preocuparse por alucinaciones cuando:

• La aplicación impacta decisiones críticas (medicina, legal, finanzas).
• El contenido generado se publica sin revisión humana.
• La precisión factual es esencial.

Menos preocupante cuando:

• El uso es creativo o de brainstorming.
• Hay supervisión humana en el loop.
• El dominio es cerrado y controlado (documentación interna).

Implementa siempre un sistema de verificación factual para aplicaciones que requieren precisión. Combina RAG con citas explícitas y un paso de validación automática. No confíes en el modelo para autorregular sus alucinaciones.

Las alucinaciones son inherentes a los LLMs, no un bug que se pueda arreglar completamente. Cualquier sistema que use LLMs debe diseñarse asumiendo que ocasionalmente generará información falsa. La mitigación es responsabilidad del sistema, no del modelo.