Tema
Mechanistic interpretability
Mechanistic interpretability.
La interpretabilidad mecanicista es el esfuerzo por hacer ingeniería inversa de las redes neuronales, es decir, entender cómo sus partes internas producen sus respuestas. En marzo de 2025, Anthropic publicó un estudio que informó que Claude 3.5 Haiku arma las rimas por adelantado y, a veces, da explicaciones que no coinciden con los pasos que siguió. Nuestra historia sobre Golden Gate Claude recuerda que, en mayo de 2024, Anthropic encontró una característica dentro de Claude 3 Sonnet, y el modelo habló del Golden Gate Bridge durante 24 horas. Una historia de noviembre de 2026 explica qué pasa dentro de una respuesta de IA, con características, circuitos e investigaciones de 2024 y 2025. Otra historia de noviembre de 2026 repasa el estudio de marzo de 2025 sobre el rastreo de los pensamientos de un modelo de lenguaje.