Alucinación (IA)

Un modelo de lenguaje genera el texto más probable, no el comprobado. Por eso a veces produce datos, citas, leyes o enlaces que no existen, con la misma seguridad que una respuesta correcta.

Es más peligroso en cifras, referencias y temas de salud, dinero o derecho. La solución es verificar lo importante en fuentes fiables.

Un ejemplo

Pides a un chatbot tres artículos científicos sobre un tema y te da títulos, autores y revistas que suenan reales, pero uno de ellos no existe.

Por qué importa

Conocer las alucinaciones evita errores con consecuencias reales. Ha habido casos de personas que han presentado citas legales o referencias inexistentes generadas por un chatbot, o que han seguido datos médicos o técnicos falsos. El problema es que el tono de la respuesta suena igual de seguro cuando acierta que cuando se equivoca.

En la práctica, conviene tratar a la IA como un borrador que hay que revisar, no como una fuente. Pide que cite sus fuentes y comprueba que existen, contrasta los datos importantes y desconfía especialmente de nombres, cifras, fechas, enlaces y referencias muy concretas. Para esos datos, una búsqueda en una fuente fiable es más segura.

Confusiones frecuentes

A veces se piensa que una alucinación es un fallo puntual que las versiones nuevas habrán eliminado. Se reduce, pero no desaparece, porque nace de cómo funcionan estos modelos. Tampoco es mentir: el modelo no tiene intención ni sabe que se equivoca. Y pedirle que «no se invente nada» no lo garantiza.

Preguntas frecuentes

¿Cómo detecto una alucinación?

Comprueba los datos concretos en fuentes fiables, busca la cita o el enlace que menciona y pregunta lo mismo de otra forma: si las respuestas cambian mucho, desconfía.

¿Se puede evitar del todo?

No. Se reduce dando al modelo el texto o los datos de partida y pidiéndole que se base solo en ellos, pero siempre hay que verificar lo importante.