“Il mondo non ha proprio bisogno che le nuove tecnologie contribuiscano all’iniquo sviluppo del mercato e del commercio delle armi, promuovendo la follia della guerra. Così facendo, non solo l’intelligenza, ma il cuore stesso dell’uomo, correrà il rischio di diventare sempre più artificiale”: lo scrive papa Francesco, nel Messaggio per la Giornata mondiale della pace, che si celebra il 1° gennaio 2024 sul tema: “Intelligenza artificiale e pace”. “Le più avanzate applicazioni tecniche non vanno impiegate per agevolare la risoluzione violenta dei conflitti, ma per pavimentare le vie della pace”, il monito relativo “alle gravi questioni etiche legate al settore degli armamenti”: “La possibilità di condurre operazioni militari attraverso sistemi di controllo remoto ha portato a una minore percezione della devastazione da essi causata e della responsabilità del loro utilizzo, contribuendo a un approccio ancora più freddo e distaccato all’immensa tragedia della guerra”. “Non possiamo nemmeno ignorare la possibilità che armi sofisticate finiscano nelle mani sbagliate, facilitando, ad esempio, attacchi terroristici o interventi volti a destabilizzare istituzioni di governo legittime”, tuona Francesco, che esorta ad “adottare un trattato internazionale vincolante, che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme” e mette in guardia dal “paradigma tecnocratico” e dalla dittatura degli algoritmi.

“I progressi dell’informatica e lo sviluppo delle tecnologie digitali negli ultimi decenni hanno già iniziato a produrre profonde trasformazioni nella società globale e nelle sue dinamiche”, l’esordio del papa, secondo il quale ”i nuovi strumenti digitali stanno cambiando il volto delle comunicazioni, della pubblica amministrazione, dell’istruzione, dei consumi, delle interazioni personali e di innumerevoli altri aspetti della vita quotidiana”. Inoltre, “le tecnologie che impiegano una molteplicità di algoritmi possono estrarre, dalle tracce digitali lasciate su internet, dati che consentono di controllare le abitudini mentali e relazionali delle persone a fini commerciali o politici, spesso a loro insaputa, limitandone il consapevole esercizio della libertà di scelta”. “In uno spazio come il web, caratterizzato da un sovraccarico di informazioni, possono strutturare il flusso di dati secondo criteri di selezione non sempre percepiti dall’utente”, il grido d’allarme di Francesco, secondo il quale “l’intelligenza artificiale deve essere intesa come una galassia di realtà diverse e non possiamo presumere a priori che il suo sviluppo apporti un contributo benefico al futuro dell’umanità e alla pace tra i popoli”. Di qui la necessità di “agire in modo responsabile e rispettare valori umani fondamentali come l’inclusione, la trasparenza, la sicurezza, l’equità, la riservatezza e l’affidabilità” .
“Gli sviluppi tecnologici che non portano a un miglioramento della qualità di vita di tutta l’umanità, ma al contrario aggravano le disuguaglianze e i conflitti, non potranno mai essere considerati vero progresso”, la denuncia. “Non è sufficiente nemmeno presumere, da parte di chi progetta algoritmi e tecnologie digitali, un impegno ad agire in modo etico e responsabile”, avverte il Papa: “Occorre rafforzare o, se necessario, istituire organismi incaricati di esaminare le questioni etiche emergenti e di tutelare i diritti di quanti utilizzano forme di intelligenza artificiale o ne sono influenzati”. Alcuni dispositivi dell’intelligenza artificiale possono “allucinare”, cioè “generare affermazioni che a prima vista sembrano plausibili, ma che in realtà sono infondate o tradiscono pregiudizi”: “Questo pone un serio problema quando l’intelligenza artificiale viene impiegata in campagne di disinformazione che diffondono notizie false e portano a una crescente sfiducia nei confronti dei mezzi di comunicazione”, argomenta Francesco. Tra le conseguenze dell’uso improprio dell’IA, “la discriminazione, l’interferenza nei processi elettorali, il prendere piede di una società che sorveglia e controlla le persone, l’esclusione digitale e l’inasprimento di un individualismo sempre più scollegato dalla collettività”. Tutti fattori, questi, che “rischiano di alimentare i conflitti e di ostacolare la pace”, osserva Francesco, per il quale l’abilità di alcuni dispositivi nel produrre testi sintatticamente e semanticamente coerenti “non è garanzia di affidabilità”, così come “la grande quantità di dati analizzati dalle intelligenze artificiali non è di per sé garanzia di imparzialità”: “quando gli algoritmi estrapolano informazioni, corrono sempre il rischio di distorcerle”.

“Il rispetto fondamentale per la dignità umana postula di rifiutare che l’unicità della persona venga identificata con un insieme di dati”, conclude il papa, che getta l’allarme sulle possibili conseguenze nel mondo del lavoro: “mansioni che un tempo erano appannaggio esclusivo della manodopera umana vengono rapidamente assorbite dalle applicazioni industriali dell’intelligenza artificiale”.