Definición
Una alucinación es cuando un modelo de inteligencia artificial genera información falsa o inventada presentándola como verdadera: un dato, una cita, una norma o un número que no existen. Ocurre porque los modelos de lenguaje generan texto probable, no verifican hechos por sí mismos.
Por qué pasa
Un LLM predice qué texto es más probable según lo que aprendió. Si no tiene la información correcta, igual produce una respuesta plausible. Por eso puede inventar con el mismo tono seguro con el que acierta.
Cómo se reduce el riesgo
- Dar al modelo las fuentes correctas (técnica RAG).
- Pedir que responda solo con esas fuentes y que diga “no sé” si no encuentra la respuesta.
- Validar datos críticos contra sistemas (importes, stock, fechas).
- Revisión humana en decisiones sensibles.
- Probar con casos reales antes de poner en producción.
Dónde es más peligroso
En ámbitos legales, médicos, financieros o fiscales, y en cualquier respuesta que un cliente pueda tomar como compromiso de la empresa.
Relacionado
Preguntas frecuentes
¿Se pueden eliminar las alucinaciones por completo?
No completamente, pero se pueden reducir mucho con buenas fuentes, validaciones y diseño del sistema.
¿Los modelos más nuevos alucinan menos?
En general mejoran, pero ningún modelo está libre de errores. El diseño del sistema sigue siendo clave.
¿Cómo detecto una alucinación?
Verificando datos concretos contra fuentes confiables. Desconfiá especialmente de citas, números y referencias normativas sin fuente.
¿Tenés dudas sobre cómo aplicar esto a tu empresa?
Agendá una reunión gratuita de 30 minutos y lo vemos juntos.