Alucinación (IA generativa)

Los modelos de lenguaje generan texto prediciendo qué palabras suelen ir juntas, no consultando una base de datos de hechos. Por eso a veces inventan con total seguridad: una sentencia que no existe, una cifra mal calculada, un artículo de una ley con un contenido distinto o una persona que nunca dijo esa frase.

Las alucinaciones son el riesgo práctico más frecuente de la IA en la empresa. Se reducen, sin desaparecer del todo, conectando el modelo a fuentes fiables (por ejemplo con RAG), pidiendo que cite sus fuentes, limitando el uso a tareas adecuadas y, sobre todo, con verificación humana antes de usar el resultado.

Una buena política de uso de IA deja claro que la persona que usa la herramienta es responsable de comprobar lo que esta produce.