Microsoft lanza una iniciativa de transparencia de IA con más de 40 socios
Microsoft anunció la AI Transparency Initiative el 17 de noviembre en su conferencia Ignite, según un comunicado de prensa de la empresa. El director ejecutivo Satya Nadella presentó el proyecto, que reúne a clientes y socios para crear estándares abiertos y compartidos de seguridad y gobernanza para modelos y agentes de IA.
El problema, según Microsoft, es la falta de pruebas. Las empresas conectan agentes de IA a datos, herramientas y credenciales, y los dejan actuar sin que una persona apruebe cada paso. Microsoft indicó que las herramientas de seguridad actuales pueden vigilar la actividad alrededor de un modelo, pero no lo que ocurre dentro de él. Tampoco pueden verificar de forma independiente el relato del propio modelo sobre lo que hizo. La empresa llama a esto una brecha de evidencia. Otra nota aborda el ocultamiento de errores en sistemas de IA.
La iniciativa tiene tres partes. Microsoft ampliará su trabajo con el National Institute of Standards and Technology sobre estándares para agentes. También trabaja con más de 40 organizaciones, entre ellas Accenture, Adobe, KPMG, Mastercard y Volvo Cars, en estándares para una IA que pueda rendir cuentas, ser verificada de forma independiente y estar diseñada para ser segura desde el inicio. Por último, Microsoft planea incorporar los resultados en Microsoft AI, Microsoft Foundry y Microsoft Copilot. Así, los clientes podrían enviar la evidencia a herramientas de seguridad y cumplimiento de Microsoft o de otros proveedores.
Microsoft presentó su enfoque como ver, verificar y controlar. Las organizaciones deberían poder ver a qué accedió y qué hizo un sistema de IA, contrastar ese registro con fuentes externas al modelo y fijar límites a lo que puede hacer. La empresa dijo que el diseño debe funcionar con modelos cerrados y de pesos abiertos, de modo que un equipo pueda cambiar de modelo sin perder supervisión. El comunicado compara a los agentes con acceso a sistemas de la empresa con personal interno con privilegios, un riesgo que Anthropic examinó en su estudio sobre la IA como amenaza interna.
El comunicado está dirigido a empresas, no a usuarios comunes. Aun así, señala que las organizaciones siguen respondiendo ante clientes, empleados y reguladores cuando un agente causa daño. Quedan muchas preguntas abiertas. Microsoft no dio un calendario, no precisó qué exigirán los estándares ni cuándo llegarán las funciones a sus productos. Las organizaciones interesadas pueden inscribirse mediante un enlace del comunicado.
Fuentes
Cita esta página
Microsoft lanza una iniciativa de transparencia de IA con más de 40 socios, New Mind Museum, 17 de noviembre de 2026. https://newmindmuseum.com/es/seguridad/2026/11/microsoft-iniciativa-transparencia-ia/
New Mind Museum. (2026, 17 de noviembre). Microsoft lanza una iniciativa de transparencia de IA con más de 40 socios. https://newmindmuseum.com/es/seguridad/2026/11/microsoft-iniciativa-transparencia-ia/
«Microsoft lanza una iniciativa de transparencia de IA con más de 40 socios». New Mind Museum, 17 nov. 2026, https://newmindmuseum.com/es/seguridad/2026/11/microsoft-iniciativa-transparencia-ia/.
@misc{new-mind-museum-2026-microsoft-lanza-una-iniciativa-de-transp,
author = {{New Mind Museum}},
title = {Microsoft lanza una iniciativa de transparencia de IA con más de 40 socios},
year = {2026},
url = {https://newmindmuseum.com/es/seguridad/2026/11/microsoft-iniciativa-transparencia-ia/}
}Puedes citarla libremente con un enlace a esta página.