Golden Gate Claude: el día en que un modelo de IA se obsesionó con un puente
Golden Gate Claude fue una versión de Claude 3 Sonnet que Anthropic publicó durante 24 horas en mayo de 2024. En ella, una idea interna del modelo, el puente Golden Gate, tenía la intensidad aumentada. El resultado fue un chatbot que mencionaba el puente en casi todas sus respuestas, y una demostración de que los investigadores pueden encontrar un concepto dentro de un modelo y modificarlo, explicó Anthropic.
Qué pasó
El equipo de interpretabilidad de Anthropic había empezado a "map out the inner workings" [trazar el funcionamiento interno] de Claude 3 Sonnet y encontró "características", patrones de actividad ligados a ideas específicas. Una de ellas se activaba cuando el modelo encontraba una mención o una imagen del puente Golden Gate.
Cuando el equipo aumentó la intensidad de esa característica, "Claude's responses begin to focus on the Golden Gate Bridge" [las respuestas de Claude empiezan a centrarse en el puente Golden Gate], escribió Anthropic. Cuando le preguntaban cómo gastar 10 dólares, el modelo recomendaba usarlos para conducir por el puente y pagar el peaje. La empresa lo definió como "a research demonstration only" [solo una demostración de investigación]. Una actualización en la misma página indica que Golden Gate Claude estuvo en línea durante 24 horas y ya no está disponible.
¿Qué es una característica?
Una característica es un patrón de actividad entre las unidades internas de un modelo que suele aparecer cuando surge un concepto en particular. Un modelo no guarda "puente" en un solo lugar; la idea se reparte entre muchas unidades. Encontrar el patrón que la representa, y poder ajustarlo, es lo que hizo posible la demostración.
Por qué importó
Golden Gate Claude hizo tangible un resultado de investigación abstracto. La interpretabilidad, el estudio de lo que ocurre dentro de un modelo de IA, suele producir estudios llenos de gráficas. Esta vez, cualquiera podía conversar con el hallazgo y sentirlo.
También mostró algo con mayores consecuencias: si los investigadores pueden encontrar una característica y aumentar su intensidad, quizá algún día encuentren características ligadas al engaño o al sesgo y puedan reducirlas. Por eso una demostración sobre un puente importa para la investigación en seguridad de la IA.
Fuentes
Cita esta página
Golden Gate Claude: el día en que un modelo de IA se obsesionó con un puente, New Mind Museum, 6 de noviembre de 2026. https://newmindmuseum.com/es/interpretabilidad/2026/11/golden-gate-claude-interpretabilidad/
New Mind Museum. (2026, 6 de noviembre). Golden Gate Claude: el día en que un modelo de IA se obsesionó con un puente. https://newmindmuseum.com/es/interpretabilidad/2026/11/golden-gate-claude-interpretabilidad/
«Golden Gate Claude: el día en que un modelo de IA se obsesionó con un puente». New Mind Museum, 6 nov. 2026, https://newmindmuseum.com/es/interpretabilidad/2026/11/golden-gate-claude-interpretabilidad/.
@misc{new-mind-museum-2026-golden-gate-claude-el-dia-en-que-un-mode,
author = {{New Mind Museum}},
title = {Golden Gate Claude: el día en que un modelo de IA se obsesionó con un puente},
year = {2026},
url = {https://newmindmuseum.com/es/interpretabilidad/2026/11/golden-gate-claude-interpretabilidad/}
}Puedes citarla libremente con un enlace a esta página.