Por qué la IA se equivoca con tanta seguridad

Le pides a la IA el aforo legal de un local, un dato de tu propia empresa o el precio de un proveedor, y te responde una cifra concreta, redactada con total seguridad. Suena perfecta. Y es falsa. La IA generativa se equivoca con tanta seguridad porque no busca la verdad: predice el texto más plausible que sigue a tu pregunta. El tono de confianza es siempre el mismo, acierte o no.

Esto no es un fallo raro que se arregla actualizando a la última versión. Es cómo funciona la herramienta por dentro. Y la buena noticia para quien dirige un negocio es que el error no cae al azar: aparece en sitios que puedes anticipar. Si sabes dónde mirar, puedes seguir usando la IA para lo que hace bien sin firmar a ciegas lo que se inventa.

La respuesta corta: predice, no consulta

Un modelo de lenguaje grande (en inglés, un LLM: el motor detrás de herramientas como ChatGPT) es, en esencia, un sistema de autocompletado muy avanzado. Ha leído una cantidad enorme de texto y ha aprendido qué palabras tienden a seguir a otras. Cuando le escribes una pregunta, no abre un archivo con la respuesta correcta. Calcula, palabra a palabra, cuál es la continuación más probable dado todo lo que ha leído.

La unidad con la que trabaja es el “token”: un trozo de palabra, una palabra corta o un signo. El modelo va eligiendo el siguiente token más probable, y luego el siguiente, hasta formar una respuesta completa. Casi todo el tiempo, la continuación más probable coincide con la verdad, porque en el texto real las cosas ciertas se repiten mucho. Por eso la IA acierta tanto y resulta tan útil.

El problema llega cuando la continuación más plausible no es la verdadera. Ahí el modelo rellena el hueco con algo que suena bien: una cifra creíble, una fuente con pinta de real, un artículo de ley con un número que encaja. A eso se le da un nombre técnico: alucinación. El sistema no “miente” en el sentido humano de saber la verdad y ocultarla: genera texto verosímil sin distinguir si corresponde a un hecho.

Por qué suena tan seguro aunque se equivoque

El tono seguro no está atado a la verdad. Un modelo de lenguaje redacta con la misma firmeza cuando acierta y cuando se inventa la respuesta, porque su objetivo es producir texto fluido y convincente, no señalar su propio nivel de duda. No tiene un medidor interno que se encienda con un “esto no lo sé de verdad”.

Compáralo con una calculadora. Escribes 2 por 2 y siempre da 4. Es una máquina determinista: las mismas entradas producen siempre la misma salida, y esa salida es correcta por diseño. Un LLM no funciona así. Ante la misma pregunta puede darte respuestas distintas en momentos distintos, y ninguna viene con la garantía de la calculadora. Confundir la seguridad del tono con la fiabilidad de una calculadora es el error que más caro sale.

Para un directivo, la lección práctica es directa: la confianza con la que te habla la IA no aporta ninguna información sobre si tiene razón. Un becario nervioso que duda en voz alta puede estar dándote un dato correcto, y una respuesta impecable y segura puede ser pura invención. Juzga el contenido, nunca el tono. Si quieres el detalle de por qué inventa datos concretos, lo explico en qué es una alucinación de IA.

Los tres sitios donde el error es predecible

El fallo no es aleatorio. Se concentra en tres situaciones que puedes reconocer antes de fiarte de una respuesta.

Uno: le pides un dato privado que nunca ha visto. El modelo aprendió de texto público. No conoce las cifras internas de tu empresa, tus contratos, tu inventario ni las notas de tu última reunión, salvo que se los des tú en la conversación. Si le preguntas “¿cuánto facturó mi delegación de Sevilla el trimestre pasado?”, no tiene forma de saberlo, pero te dará un número igualmente, porque su trabajo es completar la frase.

Dos: le exiges una cifra exacta. Fechas concretas, precios, aforos, plazos legales, números de artículo de una normativa. Son datos puntuales y verificables donde no hay margen para “casi”. El modelo produce algo con el formato correcto (una fecha con pinta de fecha, un artículo con número creíble) que puede estar equivocado. El formato acierta, el dato no.

Tres: la pregunta cae fuera de su dominio. Temas muy de nicho, muy locales o muy recientes, sobre los que apenas ha leído. Cuanto menos texto fiable existe sobre algo, más se apoya el modelo en rellenar el hueco con lo que suena razonable. Un cambio normativo de la semana pasada o una particularidad de tu sector pueden caer justo en esa zona.

Situación	Qué pide el usuario	Por qué falla	Qué hacer
Dato privado	Cifras o hechos internos de tu empresa	El modelo nunca los ha visto	Dáselos tú en la conversación
Cifra exacta	Fechas, precios, aforos, artículos de ley	Rellena con un valor plausible	Verifica en la fuente original
Fuera de dominio	Temas de nicho, locales o muy recientes	Ha leído poco fiable al respecto	Contrasta con un experto humano

Qué significa esto para tu empresa

La conclusión no es dejar de usar la IA. Conviene usarla donde el coste de un error es bajo y hay revisión humana, y desconfiar donde un dato falso hace daño. La misma herramienta es excelente para unas cosas e insegura para otras, y la diferencia la marcas tú al decidir dónde la pones.

Donde rinde bien: primeros borradores de un correo, resúmenes de un documento largo, lluvia de ideas, reformular un texto, traducir el tono de una comunicación. En todos estos casos un humano lee el resultado antes de que salga, y un desliz se corrige sin consecuencias.

Donde conviene frenar: cifras que van a un cliente o a una oferta, textos de cumplimiento legal, decisiones que se ejecutan sin que nadie revise, cualquier número que luego alguien tomará como cierto. Aquí el tono seguro de la IA es justo lo peligroso, porque invita a pulsar “enviar” sin comprobar.

Decidir esa frontera con criterio, en tu contexto y sin depender de que alguien del equipo “controle de esto”, es lo que trabajamos paso a paso en el curso de IA sin hype. El objetivo es que dirijas la herramienta con criterio, sabiendo cuándo fiarte y cuándo parar, sin necesidad de volverte técnico.

Cómo reducir el riesgo sin ser técnico

No hace falta entender el motor para conducir con prudencia. Con unos hábitos sencillos reduces la mayor parte de los errores caros:

• Pide fuentes y enlaces, y ábrelos. Si el modelo no puede citar de dónde sale un dato, trátalo como un borrador, no como un hecho.
• Aporta tú el contexto. Pega el documento, los datos o las cifras reales en la conversación en lugar de esperar que los adivine. Darle tus propios datos es la forma más fiable de reducir el primer tipo de error, algo que desarrollo en cómo dar a la IA los datos de tu empresa.
• Deja abierta la puerta a “no lo sé”. Pídele explícitamente que responda “no tengo ese dato” cuando no lo tenga, en vez de forzarle a inventar.
• Revisa toda cifra antes de usarla. Cualquier número que vaya a un cliente, a una factura o a un documento legal se comprueba en la fuente original.
• No automatices decisiones sensibles sin un humano que revise. Cuanto mayor es el daño de un error, más justificado está el paso de revisión.

Si quieres entender mejor el motor que hay debajo de todo esto, el punto de partida es cómo funciona la IA generativa, la guía base de esta serie.

Un concepto nuevo cada semana

Suscribirme

Preguntas frecuentes

¿La IA miente a propósito cuando se equivoca?

No en el sentido humano. Mentir supone conocer la verdad y ocultarla, y un modelo de lenguaje no tiene un registro de hechos que consultar. Genera la respuesta más plausible palabra a palabra, y cuando esa respuesta no coincide con la realidad, el resultado parece una mentira aunque no haya intención detrás. Por eso es más útil hablar de error o de alucinación que de mentira.

¿Por qué la IA se inventa fuentes, citas o enlaces?

Porque una cita tiene una forma muy reconocible: un autor, un título, un año, una dirección web. El modelo ha visto miles de citas y sabe imitar ese patrón a la perfección, aunque la combinación concreta no exista. Produce algo con formato impecable de fuente real. Por eso cualquier referencia que te dé hay que abrirla y comprobar que existe antes de apoyarte en ella.

¿Se arreglará esto con modelos más avanzados?

Los modelos nuevos aciertan más y se inventan menos cosas, pero el mecanismo de fondo sigue siendo predecir texto plausible, así que el riesgo no desaparece del todo. Mejora la media, no la garantía. Conviene tratar la revisión humana como parte fija del proceso, no como un parche temporal hasta la próxima versión.

¿Puedo fiarme de los números que me da la IA?

Como punto de partida sí, como dato final no sin comprobarlo. Un número puede ser correcto o puede ser una invención con el formato adecuado, y a simple vista no se distinguen. Para cualquier cifra que vaya a un cliente, a una oferta o a un documento legal, verifícala en la fuente original antes de usarla.

¿Es lo mismo que un buscador de internet?

No. Un buscador te devuelve páginas que existen y puedes abrir para comprobar la fuente. Un modelo de lenguaje genera una respuesta nueva a partir de lo que aprendió, sin garantizar que corresponda a ninguna página real. Algunas herramientas combinan las dos cosas y buscan en la web antes de responder, lo que ayuda, pero conviene seguir revisando los enlaces que citan.