Contenido revisado:
Una alucinación (en inglés, hallucination) en inteligencia artificial es cuando un modelo generativo produce información que suena plausible y segura pero que es falsa, inventada o no respaldada por sus datos. El modelo no «miente» de forma intencional: genera texto prediciendo qué palabras son probables, y a veces ese proceso produce datos, citas o hechos que no existen.
Las alucinaciones son uno de los principales riesgos al usar modelos como ChatGPT, Claude o Gemini, especialmente en temas legales, médicos o cuando se piden referencias y cifras concretas. Por eso conviene verificar siempre los datos importantes en fuentes confiables.
Para reducirlas se usan técnicas como la generación aumentada con recuperación (RAG), que conecta el modelo a documentos reales, y la conexión a buscadores. Aun así, ningún modelo actual está libre de alucinar, por lo que la supervisión humana sigue siendo clave.
¿Cómo reducir y medir las alucinaciones?
La reducción empieza con una tarea definida, fuentes fiables y un criterio objetivo de corrección. La recuperación de documentos, las herramientas y las citas ayudan, pero no garantizan fidelidad. La prueba debe separar respuestas incorrectas, afirmaciones sin respaldo y omisiones usando preguntas ajenas al desarrollo. En usos importantes, la salida necesita verificación humana y el sistema debe poder admitir incertidumbre.
Referencia primaria: NIST — perfil de riesgo para IA generativa
Ejemplo práctico
Al resumir un proceso judicial, un modelo puede inventar un número de sentencia con apariencia legítima. Pedir citas ayuda solo si el sistema recupera la fuente correcta y cada afirmación se contrasta con ella. Un enlace existente no demuestra que el texto generado sea fiel al documento.
Cómo distinguirlo y evaluarlo
Una alucinación es una salida sin respaldo o factualmente incorrecta, no cualquier respuesta indeseada. Un rechazo excesivo, una opinión discutible y una instrucción mal interpretada son fallos distintos. Separar categorías permite elegir la corrección adecuada: datos, recuperación, prompt, herramienta o política.
Lista de comprobación
- Convierta afirmaciones críticas en pruebas verificables.
- Mida fidelidad a la fuente por separado de la fluidez.
- Permita que el sistema indique falta de evidencia o baja confianza.
Conceptos relacionados: RAG · LLM
Fuente primaria adicional: Google for Developers — introducción y límites de los LLM
Noticias relacionadas
Preguntas frecuentes
¿Por qué la IA alucina?
Porque los modelos de lenguaje generan texto prediciendo la siguiente palabra más probable, no consultando una base de hechos verificados. Cuando no "saben" algo, igual producen una respuesta fluida, que puede ser incorrecta aunque suene convincente.
¿Cómo evitar las alucinaciones de la IA?
No hay forma de eliminarlas por completo, pero ayuda pedir fuentes, usar herramientas con acceso a documentos reales o búsqueda web, formular prompts claros y, sobre todo, verificar de forma independiente cualquier dato crítico antes de confiar en él.
