Por qué la IA alucina, explicado en sencillo
Los chatbots de IA alucinan por la forma en que se entrenan y se evalúan. Se entrenan para predecir la siguiente palabra, algo que no basta para fijar datos arbitrarios, y muchas puntuaciones de pruebas premian una respuesta al azar por encima de admitir la incertidumbre. Ese es el argumento de un artículo de Adam Tauman Kalai, Ofir Nachum, Santosh Vempala y Edwin Zhang, publicado en arXiv el 4 de septiembre de 2025 y explicado en una publicación de OpenAI un día después.
¿Qué es una alucinación de la IA?
Una alucinación es una afirmación que suena correcta pero es falsa, generada por un modelo de lenguaje sin ningún indicio de duda. Una revisión de investigaciones encabezada por Ziwei Ji, publicada por primera vez en febrero de 2022 y editada en ACM Computing Surveys, describe el mismo problema en la generación de texto en general. Señala que los sistemas creados con aprendizaje profundo tienden a producir texto que nadie buscaba, y que eso no cumple lo que los usuarios esperan. La revisión abarca tareas como resumen, diálogo, respuesta a preguntas y traducción.
La publicación de OpenAI da un ejemplo claro. Los investigadores pidieron a un chatbot muy usado el título de la tesis doctoral de Kalai. Generó tres títulos distintos y ninguno era correcto. Le pidieron su fecha de cumpleaños y produjo tres fechas distintas, todas erróneas.
¿Por qué predecir la siguiente palabra produce datos falsos?
Los modelos de lenguaje parten del preentrenamiento: procesan enormes cantidades de texto y se entrenan para predecir la siguiente palabra. Ninguna oración de ese texto viene marcada como verdadera o falsa. El modelo solo recibe ejemplos de lenguaje fluido, así que tiene pocos elementos para aprender cómo se ve una afirmación incorrecta.
Los autores agregan una analogía. Imagina que entrenas un clasificador de imágenes para etiquetar fotos de mascotas, no como gato o perro, sino por la fecha de cumpleaños de cada una. Los cumpleaños son prácticamente aleatorios, así que ningún algoritmo podría acertar de forma confiable. Algunos datos son así: raros, arbitrarios e imposibles de predecir a partir de patrones del lenguaje.
La ortografía y el cierre de paréntesis son distintos. Siguen patrones constantes, por eso los autores dicen que esos errores desaparecen a medida que los modelos crecen. Los datos poco conocidos no tienen ningún patrón del cual aprender.
Qué encontraron
Las alucinaciones nacen de la estadística común. El artículo sostiene que se originan como errores en un problema de clasificación: si un modelo no puede distinguir una afirmación falsa de un dato real, los errores surgen por una presión estadística natural. Para los autores, no son una falla misteriosa.
La puntuación premia adivinar. Piensa en un examen de opción múltiple donde una respuesta en blanco da cero y una respuesta al azar podría dar un punto. La mayoría de los benchmarks de IA funcionan así: ordenan los modelos solo por su precisión. Si un modelo responde con una fecha de cumpleaños al azar, tiene una probabilidad de 1-in-365 de acertar. Abstenerse de responder no suma nada. Tras miles de preguntas, el modelo que adivina puede verse mejor en la tabla de posiciones que uno prudente.
OpenAI muestra el efecto con una prueba llamada SimpleQA, con cifras de la ficha del sistema de GPT-5. Compara un modelo más reciente, gpt-5-thinking-mini, con uno anterior, OpenAI o4-mini. El modelo anterior obtuvo una precisión un poco mayor. Pero también respondió mal en el 75% de los casos, frente al 26% del más reciente, porque casi nunca se abstuvo de responder.
Resultados de SimpleQA para dos modelos de OpenAI
| Métrica | gpt-5-thinking-mini | OpenAI o4-mini |
|---|
La tabla muestra ese equilibrio en cifras. El modelo más reciente se abstuvo de responder en más de la mitad de las preguntas, y por eso se vio un poco peor en una tabla que mide solo la precisión. Puedes comparar otros sistemas en nuestra lista de modelos de IA.
La precisión perfecta no llegará. Algunas preguntas del mundo real no se pueden responder. Puede que la información no esté disponible, que un modelo pequeño no tenga la capacidad o que la pregunta sea ambigua. Los autores dicen que ningún tamaño de modelo, herramienta de búsqueda o capacidad de razonamiento cambia eso, así que un modelo que nunca se equivoque no es una meta realista.
Aun así, las alucinaciones no son inevitables. Un modelo puede abstenerse de responder cuando no tiene certeza. Los autores también dicen que para eso no hace falta un modelo gigante. Un modelo pequeño que no tiene datos de maorí puede indicarlo sin más. Un modelo con algo de maorí en sus datos tiene que estimar su nivel de confianza. Estar calibrado, escriben, exige mucho menos cómputo que ser preciso.
¿Cómo podría cambiar la puntuación?
La solución propuesta es sencilla. Penalizar más los errores con aparente seguridad que la incertidumbre, y dar crédito parcial cuando un modelo indica que no está seguro. Algunos exámenes estandarizados para personas ya lo hacen con puntos negativos por las respuestas incorrectas.
Los autores dicen que no basta con añadir unas pocas pruebas nuevas de honestidad. Hay que cambiar la puntuación de los benchmarks principales, los que dominan las tablas de posiciones y las fichas de los modelos. Si esos siguen pagando por los aciertos de suerte, argumentan, los modelos seguirán entrenándose para adivinar.
OpenAI dice que GPT-5 tiene bastantes menos alucinaciones, sobre todo cuando razona, pero que aún ocurren.
¿Por qué importa fuera del laboratorio?
El hallazgo traslada parte de la responsabilidad del funcionamiento interno del modelo a la tabla de puntuaciones. Un modelo puede estar bien construido y aun así verse empujado a responder sin fundamento por la forma en que se lo evalúa. También explica por qué el tono seguro de un chatbot dice poco sobre si una respuesta es correcta. Para ver cómo estudian los investigadores lo que ocurre dentro de un modelo, lee qué pasa dentro de una IA cuando te responde.
Pregunta a tu IA
Pide a tu IA la fecha de cumpleaños de una persona que no conozcas, como un nombre que inventes en el momento. Una buena respuesta indica que no puede saberlo. Si te da una fecha, acabas de ver el comportamiento que describe esta investigación. Luego pregúntale qué necesitaría ver para poder responder con confianza.
Preguntas frecuentes
¿La IA dejará alguna vez de alucinar por completo?
Los autores del artículo dicen que la precisión nunca llegará al 100 % porque algunas preguntas no se pueden responder. También dicen que las alucinaciones no son inevitables, ya que los modelos pueden abstenerse de responder cuando no tienen certeza.
¿Una alucinación es lo mismo que una falta de ortografía?
No. Según la publicación de OpenAI, los errores de ortografía y de paréntesis siguen patrones y desaparecen con la escala, mientras que los datos arbitrarios y poco frecuentes no se pueden predecir a partir de patrones y llevan a alucinaciones.
¿Un modelo más grande alucina siempre menos?
No solo por su tamaño. OpenAI dice que GPT-5 alucina bastante menos, sobre todo cuando razona, pero aún alucina. También dice que a un modelo pequeño le puede resultar más fácil indicar cuándo no puede responder.
Fuentes
Cita esta página
Por qué la IA alucina, explicado en sencillo, New Mind Museum, 18 de noviembre de 2026. https://newmindmuseum.com/es/interpretabilidad/2026/11/por-que-la-ia-alucina/
New Mind Museum. (2026, 18 de noviembre). Por qué la IA alucina, explicado en sencillo. https://newmindmuseum.com/es/interpretabilidad/2026/11/por-que-la-ia-alucina/
«Por qué la IA alucina, explicado en sencillo». New Mind Museum, 18 nov. 2026, https://newmindmuseum.com/es/interpretabilidad/2026/11/por-que-la-ia-alucina/.
@misc{new-mind-museum-2026-por-que-la-ia-alucina-explicado-en-senci,
author = {{New Mind Museum}},
title = {Por qué la IA alucina, explicado en sencillo},
year = {2026},
url = {https://newmindmuseum.com/es/interpretabilidad/2026/11/por-que-la-ia-alucina/}
}Puedes citarla libremente con un enlace a esta página.