OpenAI ofrece a organizaciones verificadas una herramienta gratuita contra el CSAM
OpenAI dijo en una publicación de su blog el 16 de noviembre que lanza un nuevo clasificador de imágenes para detectar material de abuso sexual infantil, incluidas las imágenes generadas por IA. La empresa también anunció nuevas advertencias en ChatGPT, una guía para desarrolladores y herramientas para investigadores de seguridad infantil.
El clasificador se desarrolló con ayuda del National Center for Missing and Exploited Children. Las organizaciones verificadas pueden obtenerlo sin costo a través de la API de OpenAI y solicitar acceso mediante un formulario de ingreso. OpenAI dijo que es la primera herramienta de su tipo con amplia disponibilidad que incluye una señal específica sobre si una imagen pudo ser generada por IA. Entrega puntajes a los revisores para que decidan qué imágenes revisar primero.
OpenAI compartió algunas cifras iniciales. En una prueba propia con imágenes subidas por usuarios, estimó que la nueva herramienta marcaría 48% menos imágenes que sus protecciones actuales y detectaría una cantidad similar de imágenes de abuso. Las imágenes marcadas tenían casi el doble de probabilidad de contener abuso. La empresa asociada fal dijo que los revisores confirmaron como material de abuso nuevo el 72% de las alertas de alta confianza. SafetyKit dijo que la herramienta detectó el 90% de los casos con dibujos o animaciones.
Para quienes usan ChatGPT, el cambio es una nueva advertencia. Si alguien intenta buscar material de abuso, la advertencia indica que sexualizar a los niños causa daño, incluso cuando el contenido es generado por IA. OpenAI dijo que eliminará la conversación, pausará el acceso de la persona durante 24 horas y la dirigirá a apoyo especializado. Las infracciones repetidas pueden traer restricciones más largas, el cierre de la cuenta o un reporte a las autoridades. Los chatbots también pueden revelar peligros reales, como en un caso en que un chatbot alertó sobre un delito planeado en Budapest.
OpenAI también publicó una guía para desarrolladores, elaborada con aportes de Tech Coalition, Thorn, NCMEC e Internet Watch Foundation. Para la policía, ofrece capacitación y herramientas, empezando por una que ayuda a los investigadores a revisar registros largos de chats y armar cronologías. El acceso depende de la autorización de cada agencia.
Hay puntos que siguen sin aclararse. La publicación no dice cuándo llegarán las advertencias de ChatGPT a todos los usuarios ni cuántas organizaciones recibirán el clasificador. Las cifras de rendimiento provienen de OpenAI y de sus primeros socios. La publicación no menciona una verificación externa, un tema que tratamos en nuestra nota sobre evaluadores independientes de IA.
Fuentes
Cita esta página
OpenAI ofrece a organizaciones verificadas una herramienta gratuita contra el CSAM, New Mind Museum, 16 de noviembre de 2026. https://newmindmuseum.com/es/seguridad/2026/11/openai-detector-csam-herramientas-seguridad-infantil/
New Mind Museum. (2026, 16 de noviembre). OpenAI ofrece a organizaciones verificadas una herramienta gratuita contra el CSAM. https://newmindmuseum.com/es/seguridad/2026/11/openai-detector-csam-herramientas-seguridad-infantil/
«OpenAI ofrece a organizaciones verificadas una herramienta gratuita contra el CSAM». New Mind Museum, 16 nov. 2026, https://newmindmuseum.com/es/seguridad/2026/11/openai-detector-csam-herramientas-seguridad-infantil/.
@misc{new-mind-museum-2026-openai-ofrece-a-organizaciones-verificad,
author = {{New Mind Museum}},
title = {OpenAI ofrece a organizaciones verificadas una herramienta gratuita contra el CSAM},
year = {2026},
url = {https://newmindmuseum.com/es/seguridad/2026/11/openai-detector-csam-herramientas-seguridad-infantil/}
}Puedes citarla libremente con un enlace a esta página.