NodoHub

Le preguntas a una IA por un artículo científico y te da el título, los autores, la revista y el año. Todo perfectamente plausible. Lo buscas y descubres que ese artículo no existe.

A esto se le llama alucinación, y es el fallo más importante que tienes que entender si vas a usar IA para algo serio. No es un error puntual ni un bug que se vaya a arreglar del todo: es una consecuencia directa de cómo funcionan estos sistemas.

Por qué ocurre: la IA no consulta, predice

Aquí está la idea clave que lo explica todo: un modelo de lenguaje no busca información en una base de datos. Genera texto prediciendo, palabra a palabra, cuál es la continuación más probable según los patrones que aprendió durante su entrenamiento.

Cuando le pides una referencia bibliográfica, no la recuerda: construye algo que tiene forma de referencia bibliográfica. Un título que suena creíble, unos autores que publican en ese campo, una revista que existe. El resultado es estadísticamente verosímil y factualmente falso.

Y por eso lo dice con tanta seguridad: el modelo no tiene un mecanismo interno que distinga «esto lo sé» de «esto lo estoy construyendo». Ambas cosas se generan exactamente igual.

Cuándo es más probable que alucine

Las alucinaciones no aparecen al azar. Hay situaciones que las disparan:

• Datos muy específicos: cifras exactas, fechas, porcentajes, números de artículo de una ley.
• Referencias y fuentes: es el caso clásico. Títulos de estudios, DOIs, enlaces, citas textuales atribuidas a alguien.
• Temas de nicho muy estrecho: cuanta menos información hubiera sobre el tema en el entrenamiento, más rellena huecos.
• Eventos recientes: si son posteriores a su fecha de corte de conocimiento y no tiene acceso a búsqueda web.
• Cuando insistes. Si le dices «seguro que hay más ejemplos, dame cinco», tenderá a inventarse lo que le falte antes que decir que no hay más.
• Preguntas con premisa falsa: si preguntas «¿por qué X hizo Y?» cuando X nunca hizo Y, muchas veces te dará una explicación en lugar de corregirte.

Señales de alerta en una respuesta

• Cifras muy redondas o sospechosamente precisas sin fuente.
• Referencias con formato impecable — cuanto más perfecta parece la cita, más conviene comprobarla.
• Enlaces que no puedes verificar, o que llevan a páginas de error.
• Un tono uniformemente seguro en un tema donde cabría esperar matices o incertidumbre.
• Respuestas que encajan demasiado bien con lo que querías oír.

Cómo reducir el riesgo

1. Pídele que te diga cuando no está seguro. Añadir «si no lo sabes con certeza, dilo» al prompt reduce bastante las invenciones.
2. Dale tú la fuente. Si pegas el documento y le pides que responda solo con base en ese texto, el margen para inventar se estrecha muchísimo.
3. Activa la búsqueda web si la herramienta lo permite, sobre todo para datos actuales. No es infalible, pero ancla las respuestas a fuentes reales.
4. Verifica todo dato concreto que vayas a publicar, enviar a un cliente o usar en una decisión. Cifras, nombres, fechas y citas: siempre.
5. Desconfía especialmente de lo que confirma tu hipótesis. Es cuando menos ganas tienes de comprobarlo.

Estas técnicas se combinan bien con las que explicamos en nuestra guía sobre cómo escribir buenos prompts.

Para qué sí puedes fiarte (y para qué no)

Entender esto te permite usar la IA con criterio en lugar de descartarla o creértela a ciegas:

• Fiable: reescribir, resumir o traducir un texto que tú le das; estructurar ideas; generar borradores; explicar conceptos generales bien establecidos; sugerir enfoques.
• Verificar siempre: datos concretos, referencias, información legal o médica, cálculos, cualquier cosa con nombres y números.

La regla práctica: la IA es muy buena transformando información que ya tiene delante, y poco fiable recuperándola de memoria.

Preguntas frecuentes

¿Los modelos más nuevos alucinan menos?

En general sí, ha habido mejoras claras. Pero el problema no desaparece: se vuelve más sutil, y por tanto más difícil de detectar. Un modelo que acierta el 95% de las veces puede ser más peligroso que uno que acierta el 70%, porque bajas la guardia.

¿Si le pregunto si está seguro, me dirá la verdad?

Ayuda, pero no es una garantía. El modelo no tiene acceso privilegiado a saber si un dato concreto que generó es correcto. Puede decirte que está seguro de algo falso, o dudar de algo cierto.

¿Alucina también con imágenes o código?

Sí. En código es muy habitual que invente funciones o librerías que no existen, con nombres perfectamente plausibles. Por eso el código generado siempre hay que ejecutarlo y probarlo, nunca darlo por bueno de vista.