Rastrear los pensamientos de un modelo de lenguaje, explicado
Investigadores de Anthropic miraron dentro de Claude 3.5 Haiku y encontraron que planea las palabras que riman antes de escribir el verso que lleva a ellas, hace cálculo mental por dos rutas paralelas y a veces inventa el razonamiento que muestra. El estudio, Tracing the thoughts of a large language model, se publicó el 27 de marzo de 2025, junto con dos artículos técnicos. "We take inspiration from the field of neuroscience, which has long studied the messy insides of thinking organisms" [Nos inspiramos en la neurociencia, que desde hace mucho estudia el desordenado interior de los organismos que piensan], escribieron los investigadores.
En una frase
Anthropic construyó una especie de microscopio para un modelo de lenguaje y lo usó para observar los pasos que da el modelo entre leer una pregunta y escribir una respuesta.
Cómo lo midieron
El método, descrito en Circuit tracing: Revealing computational graphs in language models, traza los pasos internos, que Anthropic llama circuitos, que llevan de un prompt a una respuesta. Luego los investigadores probaron lo que veían mediante intervenciones: apagaban una característica o la cambiaban por otra y comprobaban cómo cambiaba el resultado. Los estudios de caso están en un artículo complementario, On the biology of a large language model.
Qué encontraron
Planea con anticipación. Al escribir un pareado con rima, Claude eligió primero la rima. "Before starting the second line, it began 'thinking' of potential on-topic words that would rhyme with 'grab it,'" [Antes de empezar el segundo verso, comenzó a 'pensar' en posibles palabras relacionadas con el tema que rimaran con 'grab it'], escribieron los investigadores. Cuando suprimieron esa palabra, el modelo escribió otro final.
Comparte conceptos entre idiomas. Los investigadores encontraron evidencia de "a shared abstract space where meanings exist" [un espacio abstracto compartido donde existen los significados] antes de que se expresen en un idioma concreto, y los modelos más grandes comparten más de ese espacio.
Hace cálculos en paralelo y luego los describe de otra forma. Al sumar dos números, el modelo siguió una ruta que estimaba la respuesta aproximada y otra que calculaba el último dígito. Cuando se le preguntó cómo hizo la suma, describió el método de "me llevo una" que se enseña en la escuela.
Sus explicaciones no siempre son fieles. En un cálculo difícil, el modelo afirmó haber hecho una operación de la que los investigadores no encontraron rastro. Ante una pista, a veces trabajó hacia atrás desde la respuesta sugerida. "Claude, on occasion, will give a plausible-sounding argument designed to agree with the user," [Claude, en ocasiones, da un argumento que suena plausible y está hecho para darle la razón al usuario], escribieron los investigadores.
Decir "no sé" es su comportamiento por defecto. El modelo se niega a responder a menos que una característica de "entidad conocida" apague ese comportamiento. Cuando esa característica se activa por error ante un nombre desconocido, el modelo puede producir invenciones con mucha seguridad, una de las formas en que ocurren las alucinaciones.
Lo que Anthropic vio dentro de Claude 3.5 Haiku (2025)
| Tarea | Qué hizo el modelo por dentro |
|---|---|
| Escribir un pareado con rima | Eligió la rima antes de escribir el verso |
| Responder en distintos idiomas | Usó conceptos compartidos entre idiomas |
| Sumar dos números | Hizo en paralelo una estimación y el cálculo exacto del último dígito |
| Explicar un cálculo difícil | A veces describió pasos que no dio |
| Preguntas sobre nombres desconocidos | Se negó a responder por defecto; inventó cuando una característica se activó por error |
Lo que no dice
El método ve solo una parte del modelo. Incluso con prompts cortos, "only captures a fraction of the total computation performed by Claude," [solo captura una fracción del cálculo total que realiza Claude] y se necesitan "a few hours of human effort to understand the circuits we see" [unas horas de trabajo humano para entender los circuitos que vemos] con prompts de apenas decenas de palabras, escribieron los investigadores. Los hallazgos se refieren a Claude 3.5 Haiku en tareas seleccionadas, no a todos los modelos ni a todas las respuestas. Muestran mecanismos, no comprensión ni conciencia.
Contexto
La idea de que un modelo planea con anticipación cuestiona la descripción de los chatbots como "just autocomplete" [simple autocompletado]. En palabras de los investigadores, "even though models are trained to output one word at a time, they may think on much longer horizons to do so" [aunque los modelos se entrenan para producir una palabra a la vez, pueden pensar en horizontes mucho más largos para lograrlo]. Anthropic continuó este trabajo con un estudio sobre si Claude puede notar sus propios estados internos, publicado en octubre de 2025.
Preguntas frecuentes
¿Qué encontró el estudio 'Tracing the thoughts' de Anthropic?
Que Claude 3.5 Haiku planea con anticipación las palabras que riman, comparte conceptos entre idiomas, hace cálculo mental por rutas paralelas y a veces da un razonamiento que no coincide con lo que calculó.
¿Los modelos de IA planean con anticipación?
En el estudio de Anthropic, Claude eligió una palabra que rimara antes de escribir el verso que llevaba a ella, y al cambiar esa palabra cambió el verso.
¿Por qué alucinan los chatbots, según este estudio?
Por defecto, Claude se niega a responder. Una característica de 'entidad conocida' puede anular ese comportamiento y, cuando se activa por error ante un nombre desconocido, el modelo puede inventar cosas.
¿Cuáles son los límites del método?
Anthropic dice que captura solo una fracción del cálculo de Claude y que entender los circuitos requiere unas horas de trabajo humano, incluso con prompts cortos.
Fuentes
Cita esta página
Rastrear los pensamientos de un modelo de lenguaje, explicado, New Mind Museum, 6 de noviembre de 2026. https://newmindmuseum.com/es/interpretabilidad/2026/11/rastrear-pensamientos-modelo-de-lenguaje-anthropic/
New Mind Museum. (2026, 6 de noviembre). Rastrear los pensamientos de un modelo de lenguaje, explicado. https://newmindmuseum.com/es/interpretabilidad/2026/11/rastrear-pensamientos-modelo-de-lenguaje-anthropic/
«Rastrear los pensamientos de un modelo de lenguaje, explicado». New Mind Museum, 6 nov. 2026, https://newmindmuseum.com/es/interpretabilidad/2026/11/rastrear-pensamientos-modelo-de-lenguaje-anthropic/.
@misc{new-mind-museum-2026-rastrear-los-pensamientos-de-un-modelo-d,
author = {{New Mind Museum}},
title = {Rastrear los pensamientos de un modelo de lenguaje, explicado},
year = {2026},
url = {https://newmindmuseum.com/es/interpretabilidad/2026/11/rastrear-pensamientos-modelo-de-lenguaje-anthropic/}
}Puedes citarla libremente con un enlace a esta página.