Yoshua Bengio, el padrino de la IA que se dedicó a la seguridad de la IA
Yoshua Bengio es uno de los tres investigadores que compartieron el máximo premio de la computación por el aprendizaje profundo y, desde 2023, ha dedicado su trabajo a los riesgos de la tecnología que ayudó a crear. Preside el Informe Internacional sobre la Seguridad de la IA, respaldado por más de 30 países y organizaciones internacionales, y en junio de 2025 fundó LawZero, un laboratorio sin fines de lucro que busca construir una IA "safe by design" [segura por diseño].
¿Quién es Yoshua Bengio?
Bengio es un científico de la computación de la Université de Montréal y de Mila, el instituto de IA de Quebec. Compartió el Premio A.M. Turing 2018 con Geoffrey Hinton y Yann LeCun "for conceptual and engineering breakthroughs that have made deep neural networks a critical component of computing" [por avances conceptuales y de ingeniería que han convertido a las redes neuronales profundas en un componente esencial de la computación], según el anuncio de la Association for Computing Machinery del 27 de marzo de 2019. LawZero lo describe como "the most-cited AI researcher in the world" [el investigador de IA más citado del mundo].
¿Qué construyó?
Bengio dedicó décadas a las redes neuronales, programas que aprenden a partir de ejemplos en lugar de seguir reglas escritas a mano. Junto con LeCun, coescribió en 1998 el artículo Gradient-based learning applied to document recognition, cuyo sistema de lectura de cheques bancarios "is deployed commercially and reads several million cheques per day" [se usa comercialmente y lee varios millones de cheques por día], dice el resumen. El Premio Turing lo reconoció junto con Hinton y LeCun por un trabajo que convirtió el aprendizaje profundo en la base de la IA moderna, según el relato de Meta sobre el premio.
¿Qué lo sorprendió?
ChatGPT. En un ensayo publicado en su blog el 12 de agosto de 2023, Bengio escribió que su preocupación creció durante el invierno y la primavera de 2023, después del lanzamiento de ChatGPT, al ver lo bien que manejaba el lenguaje y cómo GPT-4 mejoraba en razonamiento. Él esperaba una IA de nivel humano en "decades to centuries" [décadas o siglos]. Revisó esa estimación: "I now see it as 5 to 20 years with 90% confidence" [Ahora lo veo en un plazo de 5 a 20 años, con 90% de confianza].
También escribió que había tratado su trabajo como ciencia pura: "I now believe that I was wrong and short-sighted to ignore that dual-use nature" [Ahora creo que me equivoqué y fui miope al ignorar esa naturaleza de doble uso].
“We do not yet know how to make an AI agent controllable and thus guarantee the safety of humanity!” [Todavía no sabemos cómo lograr que un agente de IA sea controlable y, por lo tanto, garantizar la seguridad de la humanidad].
¿Qué le preocupa?
A Bengio le preocupa que una IA poderosa pueda usarse de forma indebida y que los sistemas de IA puedan volverse autónomos a bajo costo, mientras nadie sabe todavía cómo controlarlos. "We do not yet know how to make an AI agent controllable and thus guarantee the safety of humanity" [Todavía no sabemos cómo lograr que un agente de IA sea controlable y, por lo tanto, garantizar la seguridad de la humanidad], escribió en 2023.
El 30 de mayo de 2023 firmó la Declaración sobre el Riesgo de la IA, de una sola frase, del Center for AI Safety: "Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war" [Mitigar el riesgo de extinción por la IA debería ser una prioridad global, junto con otros riesgos a escala social como las pandemias y la guerra nuclear]. Hinton también la firmó.
Cuando lanzó LawZero el 3 de junio de 2025, Bengio dijo en el anuncio del laboratorio que los sistemas de frontera actuales ya "already showing signs of self-preservation and deceptive behaviours" [muestran señales de autopreservación y de comportamientos engañosos].
Yoshua Bengio: de pionero del aprendizaje profundo a la seguridad de la IA
- Coescribe un artículo sobre redes neuronales que leen cheques bancarios.
- Es nombrado ganador del Premio Turing 2018 junto con Hinton y LeCun.
- Firma la Declaración sobre el Riesgo de la IA.
- Explica en su blog por qué cambió de opinión.
- Primer Informe Internacional sobre la Seguridad de la IA, que él preside.
- Lanza la organización sin fines de lucro LawZero.
- Segundo Informe Internacional sobre la Seguridad de la IA.
¿Cómo han cambiado sus opiniones?
Bengio pasó de construir IA a tratar de hacerla segura. Describió el cambio como doloroso. "It is truly horrible to even entertain these thoughts" [Es verdaderamente horrible incluso considerar estos pensamientos], escribió en su ensayo de 2023, sobre la posibilidad de que su trabajo contribuyera a causar daño.
Convirtió esa preocupación en dos proyectos. El primero es el consenso científico: preside el Informe Internacional sobre la Seguridad de la IA, escrito por más de 100 expertos. Su primera edición salió en enero de 2025 y la segunda, publicada el 3 de febrero de 2026, advirtió que "reliable pre-deployment safety testing has become harder to conduct" [realizar pruebas de seguridad confiables antes del despliegue se ha vuelto más difícil].
El segundo es la ingeniería. LawZero, incubado en Mila, construye lo que llama "Scientist AI": sistemas diseñados para comprender el mundo en lugar de actuar en él, que podrían usarse para supervisar agentes de IA más autónomos. Bengio es su presidente y director científico. Su principio rector, dijo, es "the protection of human joy and endeavour" [la protección de la alegría y el esfuerzo humanos].
Preguntas frecuentes
¿Quién es Yoshua Bengio?
Un científico de la computación de la Université de Montréal y Mila que compartió el Premio Turing 2018 con Geoffrey Hinton y Yann LeCun por su trabajo en redes neuronales profundas.
¿Qué es LawZero?
Un laboratorio sin fines de lucro de seguridad de la IA que Bengio lanzó el 3 de junio de 2025, incubado en Mila. Construye 'Scientist AI', sistemas pensados para comprender el mundo en lugar de actuar en él.
¿Por qué cambió Yoshua Bengio de opinión sobre el riesgo de la IA?
En agosto de 2023 escribió que ChatGPT y GPT-4 lo llevaron a pasar su estimación para una IA de nivel humano de décadas o siglos a entre 5 y 20 años.
Fuentes
- ACM, ACM Announces 2018 Turing Award Recipients (27 de marzo de 2019) · copia archivada
- LeCun, Bottou, Bengio and Haffner, Gradient-based learning applied to document recognition (Proceedings of the IEEE, 1998) · copia archivada
- Meta AI, Turing Award presented to Yann LeCun, Geoffrey Hinton and Yoshua Bengio (27 de marzo de 2019) · copia archivada
- Yoshua Bengio, Personal and Psychological Dimensions of AI Researchers Confronting AI Catastrophic Risks (12 de agosto de 2023) · copia archivada
- Center for AI Safety, Statement on AI Risk (30 de mayo de 2023) · copia archivada
- LawZero, Yoshua Bengio Launches LawZero (3 de junio de 2025) · copia archivada
- International AI Safety Report 2026 (3 de febrero de 2026) · copia archivada
Cita esta página
Yoshua Bengio, el padrino de la IA que se dedicó a la seguridad de la IA, New Mind Museum, 6 de noviembre de 2026. https://newmindmuseum.com/es/historia/2026/11/yoshua-bengio-perfil-seguridad-ia-lawzero/
New Mind Museum. (2026, 6 de noviembre). Yoshua Bengio, el padrino de la IA que se dedicó a la seguridad de la IA. https://newmindmuseum.com/es/historia/2026/11/yoshua-bengio-perfil-seguridad-ia-lawzero/
«Yoshua Bengio, el padrino de la IA que se dedicó a la seguridad de la IA». New Mind Museum, 6 nov. 2026, https://newmindmuseum.com/es/historia/2026/11/yoshua-bengio-perfil-seguridad-ia-lawzero/.
@misc{new-mind-museum-2026-yoshua-bengio-el-padrino-de-la-ia-que-se,
author = {{New Mind Museum}},
title = {Yoshua Bengio, el padrino de la IA que se dedicó a la seguridad de la IA},
year = {2026},
url = {https://newmindmuseum.com/es/historia/2026/11/yoshua-bengio-perfil-seguridad-ia-lawzero/}
}Puedes citarla libremente con un enlace a esta página.