Pruebas muestran que la IA marcó una escuela iraní como objetivo militar
Pruebas independientes de Vals encontraron que modelos de IA de Anthropic, OpenAI y Google etiquetaron varias veces como objetivos militares a civiles, ambulancias y una escuela en Minab, Irán. El caso se registró el 17 de noviembre en el Monitor de Incidentes de IA de OECD.AI.
Según el registro de OECD.AI, Claude, de Anthropic, marcó la escuela en 22 de 32 pruebas. El registro también indica que el sitio fue atacado después y que murieron más de 150 personas, entre ellas niños. Describe el daño en las pruebas como simulado. No dice que un sistema de IA haya seleccionado el ataque real.
El monitor de OECD.AI clasificó el caso como un incidente de IA. Su resumen señala que los resultados de los modelos podrían llevar a ataques letales contra civiles si se usaran en decisiones de selección de objetivos. También menciona violaciones de las reglas de las empresas y el riesgo de uso indebido en armas autónomas. El monitor añade que su contenido no representa las posiciones oficiales de la OCDE ni de sus países miembros.
Por qué importa a los usuarios comunes: las empresas mencionadas desarrollan herramientas de IA que muchas personas ya usan. Las pruebas sugieren que las herramientas que describen bien las imágenes aún pueden cometer errores graves cuando se les pide elegir objetivos. Puedes ver en qué se diferencian estos sistemas en nuestra lista de modelos de IA. Las dudas sobre los sistemas de reconocimiento con IA no se limitan a la guerra. La policía de Hong Kong activó hace poco el reconocimiento facial con IA en cámaras de vigilancia.
Aún se desconoce mucho. El resumen de OECD.AI está etiquetado como generado por IA, y el texto de la fuente no explica cómo Vals diseñó las pruebas ni qué imágenes recibieron los modelos. Tampoco indica qué puntaje obtuvo cada modelo ni si las empresas respondieron. Medios como NDTV, Bloomberg y TechCrunch cubrieron el informe, pero la fuente solo da sus titulares.
Fuentes
Cita esta página
Pruebas muestran que la IA marcó una escuela iraní como objetivo militar, New Mind Museum, 18 de noviembre de 2026. https://newmindmuseum.com/es/seguridad/2026/11/ia-pruebas-objetivos-militares-escuela-iran-civiles/
New Mind Museum. (2026, 18 de noviembre). Pruebas muestran que la IA marcó una escuela iraní como objetivo militar. https://newmindmuseum.com/es/seguridad/2026/11/ia-pruebas-objetivos-militares-escuela-iran-civiles/
«Pruebas muestran que la IA marcó una escuela iraní como objetivo militar». New Mind Museum, 18 nov. 2026, https://newmindmuseum.com/es/seguridad/2026/11/ia-pruebas-objetivos-militares-escuela-iran-civiles/.
@misc{new-mind-museum-2026-pruebas-muestran-que-la-ia-marco-una-esc,
author = {{New Mind Museum}},
title = {Pruebas muestran que la IA marcó una escuela iraní como objetivo militar},
year = {2026},
url = {https://newmindmuseum.com/es/seguridad/2026/11/ia-pruebas-objetivos-militares-escuela-iran-civiles/}
}Puedes citarla libremente con un enlace a esta página.