Una cumbre en el Vaticano para discutir los peligros de la IA y las armas nucleares

La científica argentina Karen Hallberg, investigadora del CONICET y secretaria general de las conferencias Pugwash —organización ganadora del Premio Nobel de la Paz en 1995—, participó en una cumbre internacional en Castel Gandolfo, convocada por el Vaticano, donde se reunieron premios Nobel, líderes religiosos y científicos de todo el mundo para analizar los riesgos existenciales que enfrenta la humanidad en el contexto de la inteligencia artificial y las armas nucleares.

“No fue una reunión religiosa, sino interreligiosa. Había grupos budistas de Japón, rabinos, musulmanes, cristianos, y científicos. El foco estuvo en los peligros de la IA y la fragmentación global, el aumento de guerras y conflictos”, explicó Hallberg en diálogo con La Constructora Radio 103.3.

Inteligencia artificial: una herramienta con riesgos profundos

Hallberg advirtió que la inteligencia artificial, si bien ofrece enormes beneficios, también presenta un lado oscuro. “El entrenamiento recursivo de los algoritmos puede llevar a que la IA tome decisiones críticas sin intervención humana. Eso ya está pasando, y puede escalar a decisiones mucho más graves. Estamos atravesados por la tecnología en todo: energía, comunicaciones, salud, educación. Por eso hay que poner límites y restricciones”, sostuvo.

La científica destacó que los propios trabajadores de grandes corporaciones tecnológicas como Google, Meta o Microsoft han pedido que se regule la gobernanza de la IA. “Ellos mismos están preocupados y piden que se analice dónde poner el ojo y cómo establecer restricciones”, agregó.

El arsenal nuclear sigue siendo una amenaza real

Hallberg recordó que en el mundo existen unas 12.400 armas nucleares, distribuidas en nueve países: los cinco miembros permanentes del Consejo de Seguridad de la ONU (Estados Unidos, Reino Unido, Francia, China y Rusia) y otros cuatro (Israel, India, Pakistán y Corea del Norte). “El poder destructivo actual equivale a 145.000 bombas como la de Hiroshima. Son bombas H, termonucleares, con un poder destructivo muchísimo mayor”, señaló.

El mayor temor, según la investigadora, es que la IA se vincule con los sistemas de defensa y pueda tomar decisiones autónomas de lanzamiento. “Imaginate que un sistema interprete que se acerca un misil y decida lanzar una bomba nuclear. Eso es impensable. Como humanidad tenemos que prohibirlo a toda costa y pensar en deshacernos de las armas nucleares”, cerró.

La cumbre, que reunió a líderes de distintas disciplinas, fue también una oportunidad para reflexionar sobre el futuro de la humanidad y el rol del diálogo como herramienta de prevención. La encíclica papal “Magnífica Humanitas” , mencionada por Hallberg, fue uno de los ejes de la discusión, al poner en valor el carácter humano frente al avance tecnológico.