Premis Nobel, científics, experts internacionals, líders religiosos i antics caps d’Estat i de Govern han signat a Roma la “Declaració de Roma per una Pau Desarmada i Desarmant en l’Era de la Intel·ligència Artificial, les Armes Nuclears i Autònomes, els Nous Protocols Digitals i els Models Emergents de Desenvolupament Digital”, un document que reclama una renovada cooperació internacional davant els riscos que plantegen la intel·ligència artificial (IA), les armes nuclears i les tecnologies emergents.
La signatura va tenir lloc aquest dijous 16 de juliol al Campidoglio, seu de l’Ajuntament de Roma, com a cloenda de l’Assemblea Global de Premis Nobel sobre Intel·ligència Artificial i Guerra Nuclear. La trobada va reunir més de 200 personalitats del món científic, acadèmic, institucional i religiós, així com representants de les principals institucions internacionals de recerca en els àmbits de la pau i la intel·ligència artificial.
La iniciativa s’ha inspirat en l’encíclica Magnifica humanitas del papa Lleó XIV, dedicada a la protecció de la persona humana en l’era de la intel·ligència artificial.
La crida a mantenir el control humà sobre la tecnologia
Durant la sessió de clausura, el professor Daniel Holz, de la Universitat de Chicago i director fundador de l’Existential Risk Lab (X Lab), va advertir que “vivim un moment de perill sense precedents”, però va afegir que “hi ha moltes coses que podem fer per estar més segurs davant les armes nuclears i davant la IA”.
Per la seva banda, el cardenal Baldo Reina, vicari general de Lleó XIV per a la diòcesi de Roma, va afirmar que la declaració arriba “en un moment marcat per transformacions ràpides i riscos profunds”, caracteritzat per la intel·ligència artificial, les armes nuclears, la inestabilitat geopolítica, la crisi del multilateralisme i la temptació de confiar la seguretat a la por, la dissuasió i les amenaces mútues.
El cardenal va subratllar que la humanitat es troba en “un moment decisiu” de la història. Segons va explicar, el progrés científic i tecnològic ofereix oportunitats extraordinàries en àmbits com la salut, l’educació, la salut pública, la protecció del medi ambient, la lluita contra la pobresa i la construcció de la pau, però va advertir que, si es desvincula de l’ètica, la responsabilitat i el respecte per la dignitat de la persona humana, “pot convertir-se en un instrument de dominació, exclusió i fins i tot destrucció”.
En un altre moment de la trobada, Reina va remarcar que “cap màquina, cap algoritme i cap sistema autònom no pot situar-se al centre de decisions de les quals depèn la supervivència de la humanitat” i va insistir que “les decisions relatives a la vida i la mort, a la pau i la guerra, i al futur dels pobles i de les generacions futures han de romandre sota un control humà ple, responsable i significatiu”.
El canceller de l’Acadèmia Pontifícia per a la Vida, Andrea Ciucci, també va reflexionar sobre la responsabilitat humana davant els avenços tecnològics., i va recordar que l’enginy humà és capaç tant de crear obres extraordinàries com de provocar una enorme devastació, i va assenyalar que la intel·ligència artificial i l’energia nuclear no en són una excepció. En aquest sentit, va afirmar que “la IA pot impulsar els éssers humans a construir o a destruir”.
També van intervenir el cardenal Silvano Maria Tomasi i la premi Nobel de la Pau Maria Ressa, professora de la Universitat de Colúmbia, que van alertar sobre la cursa armamentística i van defensar la necessitat de recuperar una brúixola moral davant uns riscos que van qualificar d’inèdits.
Entre les intervencions més destacades hi va haver la del premi Nobel de Física David Gross, titular de la Càtedra del Canceller de Física Teòrica de la Universitat de Califòrnia, que va assegurar que avui percep el perill de les armes nuclears com a molt més gran que fa trenta anys. Gross va lamentar la desaparició dels tractats de control d’armaments i va recordar que actualment hi ha nou potències nuclears. “Som enmig d’una cursa armamentística accelerada”, va advertir.
El científic va subratllar que els pobles del món ja no poden ignorar l’impacte que aquestes amenaces poden tenir sobre les seves vides i les de les generacions futures. En referència a la declaració, va destacar que les seves propostes són senzilles i va afirmar: “Demanem que les nacions amb armes nuclears impulsin polítiques que redueixin el risc de guerra, de guerra nuclear i d’aniquilació”. A més, va recordar una crida que considera plenament vigent: “Recordeu la vostra humanitat i oblideu tota la resta”, tot advertint que “la nostra supervivència, així com la de les generacions futures, està clarament en joc”.
L’actriu i ambaixadora de la pau Sharon Stone també va intervenir durant la jornada i va defensar que, a mesura que augmenten les capacitats de les màquines, també han d’augmentar els esforços morals dels qui les desenvolupen. “La dignitat humana no és un algoritme”, va afirmar, resumint el missatge central de la “Declaració de Roma”.
