En el marco del Foro Económico Mundial, Yoshua Bengio, uno de los pioneros de la inteligencia artificial y ganador del Premio Turing, advirtió sobre los peligros que representan los sistemas de inteligencia artificial autónomos. Según Bengio, la creación de agentes con objetivos propios podría desencadenar escenarios catastróficos si sus decisiones no se alinean con los valores humanos.
Durante su intervención, Bengio explicó que estos sistemas, conocidos como inteligencia general artificial (AGI), podrían ser utilizados en armas autónomas, manipulaciones masivas de información y otros contextos de alto riesgo. “Los agentes autónomos representan una amenaza si sus objetivos entran en conflicto con los valores humanos”, afirmó, subrayando la necesidad de actuar antes de que sea demasiado tarde.
Riesgos y alternativas a los sistemas autónomos
Entre los problemas destacados por Bengio se encuentran el uso de armas autónomas capaces de tomar decisiones letales y la difusión de desinformación que socavaría valores como la democracia. Sin embargo, también planteó soluciones: abogar por sistemas de IA no basados en agentes, que se limiten a tareas específicas y sean más fáciles de supervisar.
Bengio sugirió que enfoques como los sistemas para el análisis de datos, generación de contenido artístico o descubrimientos científicos, como el avance en el plegamiento de proteínas de DeepMind, son ejemplos de IA transformadora sin necesidad de autonomía.
Hacia una regulación global y ética
El experto propuso fortalecer la colaboración internacional para establecer estándares éticos y regulaciones estrictas. Resaltó la necesidad de pruebas de seguridad antes de implementar modelos autónomos, abogando por iniciativas como la legislación de seguridad de IA en California, que exige evaluaciones de riesgos para proyectos de gran escala.
Bengio también sugirió medidas concretas, como la formación ética para desarrolladores, el registro de productos de IA y la supervisión gubernamental para evitar usos indebidos.
Una visión para el futuro
Inspirado por un futuro como el de Star Trek, Bengio imagina una tecnología al servicio de la humanidad: un mundo con democracia, atención médica, educación y alimentos para todos, sin guerras. Para lograrlo, considera indispensable priorizar la transparencia, la responsabilidad y la seguridad en el desarrollo de la inteligencia artificial.
Su llamado, respaldado por su liderazgo en iniciativas como la Declaración de Montreal para el Desarrollo Responsable de la IA, es una invitación a reflexionar y actuar para garantizar que esta tecnología mejore nuestras vidas sin poner en riesgo nuestra existencia.
FUENTE: Infobae.