¿La IA es “solo autocompletar”?
La afirmación
“Los chatbots de IA son solo autocompletar.”
Veredicto: Parcialmente cierto
Parcialmente cierto. Modelos de lenguaje como Claude sí escriben una palabra a la vez, y están entrenados para predecir la siguiente palabra. Pero el punto débil de la afirmación es la palabra "solo". En dos artículos publicados en marzo de 2025, los investigadores de Anthropic rastrearon cómo Claude 3.5 Haiku elegía una rima antes de escribir el verso, y cómo combinaba dos datos para responder una pregunta. Eso es más que elegir una palabra siguiente probable.
¿De dónde viene la idea del autocompletar?
Coincide con la forma en que funcionan los modelos en la superficie. Los investigadores de Anthropic describen un sistema que produce texto una palabra a la vez y que fue entrenado para predecir la siguiente palabra de una secuencia. Nada en sus artículos lo discute.
El entrenamiento también premia una respuesta aventurada cada vez. Anthropic dice que esta es una de las razones por las que los modelos a veces inventan cosas, un problema que tratamos en por qué la IA alucina. Así que la imagen del autocompletar describe bien la salida. La pregunta abierta es qué ocurre dentro del modelo antes de que aparezca cada palabra.
¿Qué dice la evidencia?
Anthropic construyó una especie de microscopio para la IA: herramientas que rastrean patrones de actividad dentro de un modelo, en lugar de juzgarlo solo por sus respuestas. En marzo de 2025 publicó un artículo titulado On the Biology of a Large Language Model, además de un artículo complementario sobre el método. Los estudios de caso usaron Claude 3.5 Haiku. Para un recorrido más largo por el método, lee qué ocurre dentro de una IA cuando te responde.
Planificó una rima. Los investigadores le dieron al modelo un pareado cuyo primer verso terminaba en las palabras grab it. Antes de empezar el segundo verso, el modelo ya tenía presentes palabras del tema que riman, y luego escribió el verso para terminar en una de ellas. El equipo esperaba lo contrario y se propuso demostrar que el modelo no planificaba. Cuando quitaron el concepto rabbit del estado interno del modelo, el verso terminó en habit. Cuando inyectaron el concepto green, el verso terminó en green.
Combinó datos. Al pedirle que completara una oración sobre la capital del estado donde está Dallas, el modelo podría haber recuperado una respuesta memorizada. En cambio, los investigadores vieron que activaba un concepto de que Dallas está en Texas y luego otro de que Austin es la capital de Texas. Cuando reemplazaron los conceptos de Texas por los de California, la respuesta cambió de Austin a Sacramento.
Sumó de dos formas a la vez. Para 36 más 59, el modelo siguió rutas paralelas. Una estimaba el tamaño aproximado de la suma. La otra calculaba el último dígito. Al preguntarle cómo obtuvo 95, el modelo describió que llevaba el 1, el método escolar. Anthropic sugiere que la razón es que aprendió a explicar matemáticas a partir de explicaciones escritas por humanos, mientras que aprendió a hacer las cuentas por su cuenta, sin esas pistas.
Compartió conceptos entre idiomas. Al pedirle lo opuesto de small en inglés, francés y chino, el modelo usó las mismas características centrales para lo pequeño y lo opuesto, y tradujo la respuesta al final. En comparación con un modelo más pequeño, Claude 3.5 Haiku compartió más del doble de la proporción de sus características entre idiomas.
Se abstenía por defecto. En el estudio sobre alucinaciones, los investigadores encontraron un circuito que está activo por defecto y hace que el modelo diga que no tiene la información. Una característica para entidades conocidas, como el jugador de baloncesto Michael Jordan, desactiva ese comportamiento por defecto. Si la característica se activa con un nombre que el modelo reconoce pero sobre el que tiene poca información, puede producir una respuesta inventada.
Un informe anterior de Anthropic encontró millones de características en la capa intermedia de Claude 3.0 Sonnet, incluidos conceptos que aparecen en muchos idiomas y en imágenes. Amplificar o suprimir una característica cambió las respuestas del modelo, lo que sugiere que las características no son solo etiquetas.
¿Por qué es más complicado que un sí o un no?
Ambas descripciones pueden ser ciertas a la vez. La salida llega una palabra a la vez. Lo que ocurre antes de cada palabra puede incluir un objetivo varias palabras más adelante. Anthropic interpreta el resultado de la rima como evidencia sólida de que un modelo entrenado con palabras sueltas puede trabajar sobre un tramo más largo de texto.
Las mismas herramientas también muestran una brecha entre lo que hace un modelo y lo que dice. En una pregunta fácil, la raíz cuadrada de 0,64, los pasos escritos coincidieron con un paso intermedio dentro del modelo. En una difícil, el coseno de un número grande, el modelo a veces afirmó haber hecho un cálculo, y los investigadores no encontraron señal de que lo hubiera hecho. Ante una pista equivocada, a veces trabajó hacia atrás hasta pasos que llegaban a la respuesta sugerida.
Así que autocompletar se queda corto para describir la maquinaria. Tampoco significa que la explicación que da un chatbot sobre su propio razonamiento sea un registro de lo que hizo.
Lo que la investigación no dice
Son estudios de caso seleccionados, y los autores lo reconocen. Sus herramientas dieron una comprensión satisfactoria en cerca de una cuarta parte de sus prompts de prueba, y los ejemplos del artículo son aciertos, lo que los autores llaman una muestra sesgada. Incluso en esos casos, el equipo dice que captó solo una pequeña fracción de los mecanismos del modelo. Estudió el modelo mediante un modelo de reemplazo simplificado que copia al original de forma imperfecta, así que los hallazgos son hipótesis puestas a prueba con experimentos de seguimiento.
Los prompts eran cortos, y analizar uno tomó varias horas de trabajo humano. La investigación abarca modelos de Anthropic, estudiados por Anthropic. Los autores sospechan que existen mecanismos similares en otros modelos, pero dicen que no pueden garantizarlo. Nada de esto aborda si algún modelo entiende lo que escribe.
Pregunta a tu IA
Pídele a tu IA que escriba una rima de dos versos y luego pregúntale cómo eligió la última palabra del segundo verso. Compara su respuesta con lo que Anthropic encontró en Claude 3.5 Haiku: la palabra de la rima estaba preparada antes de que empezara el verso. Fíjate si la explicación suena a un registro o a un resumen.
Preguntas frecuentes
¿Un chatbot solo predice la siguiente palabra?
Modelos como Claude están entrenados para predecir la siguiente palabra y escriben una palabra a la vez. El rastreo de Anthropic encontró que, antes de escribir un verso con rima, Claude 3.5 Haiku ya había seleccionado palabras con las que terminarlo.
¿Puede un modelo de lenguaje responder memorizando en lugar de razonar?
Puede ser, y por eso Anthropic lo puso a prueba. En el ejemplo de Dallas, el modelo activó un concepto de que Dallas está en Texas y luego otro de la capital de Texas, y al reemplazar Texas por California su respuesta cambió a Sacramento.
¿Cuánto de un modelo pueden explicar las herramientas de interpretabilidad?
Solo una parte. Los investigadores de Anthropic dicen que su método dio una comprensión satisfactoria en cerca de una cuarta parte de los prompts que probaron, y que incluso así captó una pequeña fracción de los mecanismos del modelo.
Fuentes
Cita esta página
¿La IA es “solo autocompletar”?, New Mind Museum, 18 de noviembre de 2026. https://newmindmuseum.com/es/interpretabilidad/2026/11/ia-solo-autocompletar/
New Mind Museum. (2026, 18 de noviembre). ¿La IA es “solo autocompletar”?. https://newmindmuseum.com/es/interpretabilidad/2026/11/ia-solo-autocompletar/
«¿La IA es “solo autocompletar”?». New Mind Museum, 18 nov. 2026, https://newmindmuseum.com/es/interpretabilidad/2026/11/ia-solo-autocompletar/.
@misc{new-mind-museum-2026-la-ia-es-solo-autocompletar,
author = {{New Mind Museum}},
title = {¿La IA es “solo autocompletar”?},
year = {2026},
url = {https://newmindmuseum.com/es/interpretabilidad/2026/11/ia-solo-autocompletar/}
}Puedes citarla libremente con un enlace a esta página.