La recién firmada «Declaración de Roma» advierte que la humanidad está en un punto de no retorno y reclama un tratado internacional urgente que prohíba delegar el botón nuclear en algoritmos
En un escenario de máxima solemnidad histórica, la Colina Capitolina de Roma (Campidoglio) se convirtió en el epicentro de un clamor urgente por la supervivencia humana. Científicos de élite, premios Nobel, exjefes de Estado y líderes religiosos firmaron este 16 de julio la «Declaración de Roma», un manifiesto de puntos que busca desactivar la que ya se considera la mayor amenaza de nuestro siglo: la convergencia de la Inteligencia Artificial y el arsenal nuclear.
El documento es el resultado de la Asamblea Global de los Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear, celebrada en el Borgo Laudato si’. Los firmantes coinciden en un diagnóstico contundente: la humanidad se encuentra en un momento decisivo de su historia.
1. La doble carrera: Átomos y algoritmos
El texto advierte que la actual carrera armamentística tradicional se ha fusionado con una competición tecnológica sin precedentes. Aunque la IA promete avances científicos históricos, su despliegue descontrolado amenaza con:
Acentuar la brecha de poder global al concentrarse en un puñado de potencias y corporaciones.
Provocar pérdidas masivas de empleo.
Desestabilizar la seguridad mundial al militarizar el software.
Inspirados en la filosofía de una «paz desarmada y desarmante» impulsada por el Papa Francisco, los firmantes rechazan tajantemente la premisa de que la paz global deba sostenerse sobre la doctrina del miedo, la dominación o la destrucción mutua asegurada.
2. Un tratado internacional para el «botón rojo»
El punto más crítico y concreto del manifiesto aborda los sistemas automáticos de defensa. El texto es categórico:
«La decisión final de emplear un arma nuclear nunca debe confiarse a un sistema automatizado».
Bajo esta premisa, la Declaración de Roma exige la creación inmediata de un tratado internacional que prohíba la integración de la IA en los sistemas de mando, control y lanzamiento de armamento nuclear. La meta es blindar legalmente un «control humano efectivo y significativo» y prevenir catástrofes provocadas por errores de código, ciberataques o decisiones autónomas de algoritmos defectuosos.
3. Hacia un «bien común digital»
Lejos de adoptar una postura tecnofóbica, el documento defiende el potencial de la tecnología para el desarrollo humano, la medicina y la protección del medio ambiente. Sin embargo, propone redefinir las reglas del juego:
Gobernanza Global: Apoyo activo al Panel Científico Internacional de la ONU sobre IA para diseñar normativas éticas universales.
Bienes Comunes Digitales (Digital Commons): Crear plataformas de código abierto para compartir datos críticos, evitando que las comunidades más vulnerables sufran las consecuencias de tecnologías que no controlan ni poseen.
4. El imperativo del desarme definitivo
La declaración concluye con una exigencia directa a las potencias nucleares para reactivar las negociaciones de desarme «verificable e irreversible«, respetando marcos ya existentes como el Tratado de No Proliferación (TNP) y el Tratado sobre la Prohibición de las Armas Nucleares (TPAN).
La advertencia de los firmantes en el cierre del documento no deja espacio a la indiferencia: «Está en juego nuestra supervivencia y la de las generaciones futuras». El reloj de la era digital ya está corriendo, y Roma ha dejado claro que el futuro no puede ser gobernado por la frialdad de un algoritmo.
