És Lleó XIV. Sona en anglès, italià o espanyol com Lleó XIV. Però no és Lleó XIV. És una deep fake, és a dir, un vídeo generat amb sofisticats sistemes d’intel·ligència artificial (IA) que els fan en la pràctica difícilment detectables com a falsos i que suposen un nou perill per a molts catòlics que els segueixen com si anessin veritables intervencions del papa Robert Prevost.
Al Vaticà hi ha preocupació davant aquest nou desafiament i ja han advertit que, per a verificar l’autenticitat del vídeo, haurà d’acarar-se amb els quals es pengen en el seu web vatican.va o en el seu portal informatiu vaticannews.va
No són realment una novetat aquestes deep fakes sobre els papes, ja Francesc va ser objecte d’aquestes falsificacions. La novetat ara consisteix en la seva proliferació, dificultat per a detectar l’engany i l’impacte que aconsegueixen alguns d’aquests vídeos.
Per exemple, en un vídeo en espanyol en TikTok generat per IA on el papa Prevost predica sobre el paper de la dona va sumar 9,6 milions de visualitzacions, una xifra molt alta si es compara, per exemple, amb el compte oficial de Lleó XIV a Instagram, on cap vídeo supera els sis milions de visualitzacions.
Obligació de l’etiqueta IA
Quan a penes feia dues setmanes que Prevost havia arribat a la seu de Pere, els vídeos amb presumptes discursos i sermons del nou papa inundaven Internet, confonent a nombrosos fidels, que són incapaços de discriminar —tal és el grau de versemblança aconseguit en les falsificacions— la seva autenticitat, a pesar que existeix l’obligació d’etiquetar els continguts generats per IA.
En una recerca, l’Agència France Presse va identificar desenes de canals de YouTube i TikTok que difonien sermons falsos sota el nom del nou Papa. Com a conseqüència, YouTube va eliminar 16 canals per pràctiques enganyoses i frau. TikTok també va eliminar onze comptes amb un total de més de 1,3 milions de subscriptors.
El 21 de maig, la plataforma de vídeos va clausurar també el canal “Papa León XIV. Sermons”, el que més èxit estava tenint. Els seus 26 vídeos amb homilies falses que imitaven la veu del Papa havien tingut gairebé un milió de visualitzacions i 18.000 subscriptors abans de la seva eliminació.
Cada vídeo es va generar mitjançant intel·ligència artificial. El més popular d’aquests vídeos, sota l’encapçalament de “La crida urgent del Papa a despertar a tots els veritables cristians: Discurs del Papa León XIV”, va aconseguir 330.000 visualitzacions.
Article de José Lorenzo publicat en col·laboració amb ‘Religión Digital‘.
