Una alucinación (en inglés, hallucination) en inteligencia artificial es cuando un modelo generativo produce información que suena plausible y segura pero que es falsa, inventada o no respaldada por sus datos. El modelo no «miente» de forma intencional: genera texto prediciendo qué palabras son probables, y a veces ese proceso produce datos, citas o hechos que no existen.
Las alucinaciones son uno de los principales riesgos al usar modelos como ChatGPT, Claude o Gemini, especialmente en temas legales, médicos o cuando se piden referencias y cifras concretas. Por eso conviene verificar siempre los datos importantes en fuentes confiables.
Para reducirlas se usan técnicas como la generación aumentada con recuperación (RAG), que conecta el modelo a documentos reales, y la conexión a buscadores. Aun así, ningún modelo actual está libre de alucinar, por lo que la supervisión humana sigue siendo clave.
Noticias relacionadas
Preguntas frecuentes
¿Por qué la IA alucina?
Porque los modelos de lenguaje generan texto prediciendo la siguiente palabra más probable, no consultando una base de hechos verificados. Cuando no "saben" algo, igual producen una respuesta fluida, que puede ser incorrecta aunque suene convincente.
¿Cómo evitar las alucinaciones de la IA?
No hay forma de eliminarlas por completo, pero ayuda pedir fuentes, usar herramientas con acceso a documentos reales o búsqueda web, formular prompts claros y, sobre todo, verificar de forma independiente cualquier dato crítico antes de confiar en él.
