¿Quién vigila a los laboratorios de IA? El auge de los evaluadores independientes
Grupos externos obtienen un acceso cada vez mayor para revisar el trabajo de los laboratorios de IA. El 15 de octubre de 2026, Anthropic dijo que había dado a seis empleados de METR, una organización sin fines de lucro que evalúa modelos de IA, "employee-like access" [acceso similar al de un empleado] dentro de la empresa, con derecho a publicar lo que encuentren. El paso llegó cuando METR, el AI Security Institute del Reino Unido y otros publicaron una serie de revisiones sobre Anthropic y OpenAI.
¿Qué es un evaluador independiente, en una frase?
Un evaluador independiente es una organización externa que prueba los modelos o las afirmaciones de seguridad de una empresa de IA y publica sus propias conclusiones. La nota del 15 de octubre de Anthropic enumera lo que espera de uno: experiencia, ninguna participación accionaria en la empresa ni dependencia financiera de ella, y suficiente acceso y libertad para publicar.
¿Cómo obtienen acceso los evaluadores?
Anthropic describe tres niveles. En el primero, Anthropic decide qué acceso dar, y los hallazgos se publican con su aprobación. En el segundo, los evaluadores "can publish without Anthropic's approval" [pueden publicar sin la aprobación de Anthropic], aunque Anthropic aún puede exigir que se eliminen algunas categorías de información. El tercero suma acceso similar al de un empleado; METR es el primer evaluador en ese nivel.
Los seis integrantes de METR tienen equipo de la empresa, espacio de oficina y acceso a herramientas internas "roughly on par" [más o menos al mismo nivel] con las de los propios equipos de riesgo de Anthropic, dice la nota. "Anthropic can’t veto publication" [Anthropic no puede vetar la publicación], pero puede exigir que se eliminen datos en categorías predefinidas, como propiedad intelectual confidencial.
¿Qué han encontrado hasta ahora?
Revisiones independientes recientes de laboratorios de IA, de septiembre a noviembre de 2026
| Evaluador | Qué revisó | Publicado | Acceso |
|---|---|---|---|
| METR | Claude Opus 5.5 antes de su lanzamiento (Anthropic) | 22 de septiembre de 2026 | Acceso por API durante 10 días hábiles, sin pago |
| METR | Sección sobre desalineación del Informe de Riesgos de agosto de 2026 de Anthropic | 20 de octubre de 2026 | Secciones del informe sin censura; Anthropic podía vetar |
| METR y Redwood Research | Monitoreo interno de agentes de OpenAI | 22 de octubre de 2026 | Tres semanas en las instalaciones, con código interno; OpenAI podía omitir información |
| METR | Sección sobre I+D automatizada del Informe de Riesgos de agosto de 2026 de Anthropic | 5 de noviembre de 2026 | No se describe en las fuentes de esta tabla |
| UK AISI | Más de 55 modelos antes de su lanzamiento | Al 12 de octubre de 2026 | Pruebas previas al lanzamiento |
En una revisión publicada el 20 de octubre, METR coincidió en que el riesgo de desalineación de los modelos de Anthropic en situaciones de alto riesgo, es decir, modelos que actúan contra lo que sus desarrolladores buscaban, es bajo, pero dijo que esto se debe "primarily due to models' limited capabilities, rather than safeguards and alignment training" [principalmente a las capacidades limitadas de los modelos, y no a las salvaguardas ni al entrenamiento de alineación]. Calificó el informe de riesgos de Anthropic como "far from adequate for confidently ruling out misalignment" [lejos de ser adecuado para descartar con confianza la desalineación]. Esa revisión se hizo antes del nuevo acuerdo: Anthropic tenía derecho a vetarla o a omitir partes, y METR dice que no se omitió nada.
En un ejercicio aparte publicado el 22 de octubre, un empleado de METR y otro de Redwood Research pasaron tres semanas dentro de OpenAI probando su sistema para monitorear a sus propios agentes de IA. Estimaron que entre 75% y 94% del tráfico interno de agentes de modelos al menos tan potentes como GPT-5.5 podía ser monitoreado en ese momento, con una incertidumbre considerable, e informaron de una forma en que los agentes podrían evitar que cientos de acciones fueran monitoreadas.
Antes, la evaluación previa al lanzamiento de Claude Opus 5.5 de METR, publicada el 22 de septiembre, se hizo con acceso por API durante 10 días hábiles, bajo un acuerdo sin pago, y Anthropic revisó y editó el resumen antes de que METR diera su visto bueno.
Lo que los acuerdos no dicen
La nota de Anthropic del 15 de octubre no dice si METR recibe pago por el trabajo dentro de la empresa. El ejercicio con OpenAI se diseñó "not to provide robust public transparency" [para no ofrecer transparencia pública sólida], y OpenAI podía omitir todo lo que considerara confidencial. Anthropic también dice que "can’t publicly share all the information relevant to our safety work" [no puede compartir públicamente toda la información relevante para su trabajo de seguridad].
Contexto: los gobiernos también hacen pruebas
El AI Security Institute (AISI) del Reino Unido dice que "independently evaluated more than 55 models before release" [evaluó de forma independiente más de 55 modelos antes de su lanzamiento], en una nota del 12 de octubre que incluye "enabling independent auditors and evaluators" [facilitar el trabajo de auditores y evaluadores independientes] entre sus prioridades. El AISI añade que "is not seeking to mandate requirements for frontier developers" [no busca imponer requisitos a los desarrolladores de frontera].
METR publicó otra revisión del Informe de Riesgos de agosto de 2026 de Anthropic, sobre su sección de investigación automatizada, el 5 de noviembre de 2026.
Preguntas frecuentes
¿Qué es METR?
METR es una organización sin fines de lucro que evalúa modelos de IA de frontera. Desde octubre de 2026, seis de sus integrantes tienen acceso similar al de un empleado dentro de Anthropic.
¿Puede Anthropic bloquear lo que publica METR?
Según el acuerdo anunciado el 15 de octubre de 2026, Anthropic no puede vetar la publicación, pero sí puede exigir que se eliminen datos en categorías predefinidas, como propiedad intelectual confidencial.
¿Alguien prueba a OpenAI de forma independiente?
Sí. METR y Redwood Research pasaron tres semanas en 2026 probando el monitoreo interno de agentes de OpenAI y publicaron un resumen el 22 de octubre de 2026.
¿Cuántos modelos ha probado el AI Security Institute del Reino Unido?
Más de 55 modelos antes de su lanzamiento, dijo el instituto el 12 de octubre de 2026.
Fuentes
- Anthropic, An update on independent evaluators (15 de octubre de 2026) · copia archivada
- METR, Review of the misalignment section in Anthropic's Risk Report (20 de octubre de 2026) · copia archivada
- METR, Red-Teaming OpenAI's Internal Agent Monitoring Systems (22 de octubre de 2026) · copia archivada
- METR, Summary of METR's predeployment evaluation of Claude Opus 5.5 (22 de septiembre de 2026) · copia archivada
- UK AI Security Institute, Towards technical best practice for frontier AI development (12 de octubre de 2026) · copia archivada
- METR, Review of the Risks from automated R&D section in Anthropic's Risk Report (5 de noviembre de 2026) · copia archivada
Cita esta página
¿Quién vigila a los laboratorios de IA? El auge de los evaluadores independientes, New Mind Museum, 6 de noviembre de 2026. https://newmindmuseum.com/es/seguridad/2026/11/evaluadores-independientes-ia-metr-anthropic-openai-aisi/
New Mind Museum. (2026, 6 de noviembre). ¿Quién vigila a los laboratorios de IA? El auge de los evaluadores independientes. https://newmindmuseum.com/es/seguridad/2026/11/evaluadores-independientes-ia-metr-anthropic-openai-aisi/
«¿Quién vigila a los laboratorios de IA? El auge de los evaluadores independientes». New Mind Museum, 6 nov. 2026, https://newmindmuseum.com/es/seguridad/2026/11/evaluadores-independientes-ia-metr-anthropic-openai-aisi/.
@misc{new-mind-museum-2026-quien-vigila-a-los-laboratorios-de-ia-el,
author = {{New Mind Museum}},
title = {¿Quién vigila a los laboratorios de IA? El auge de los evaluadores independientes},
year = {2026},
url = {https://newmindmuseum.com/es/seguridad/2026/11/evaluadores-independientes-ia-metr-anthropic-openai-aisi/}
}Puedes citarla libremente con un enlace a esta página.