L’enciclica di Papa Leone: “Disarmiamo l’IA e restiamo umani”. Su Big Tech: “Troppo potere di pochi”

Restare umani. Disarmare l’intelligenza artificiale. Non rifiutarla ma trattarla con prudenza, sobrietà, rallentarne l’adozione o anche digiunare un po’ dal suo utilizzo. Governarla. E soprattutto evitare che la tecnologia digitale oscuri la “dignità umana” con “nuove forme di disumanizzazione”. È l’obiettivo che papa Leone XIV fissa nella sua prima enciclica, Magnifica Humanitas, “sulla custodia della persona umana nel tempo dell’intelligenza artificiale”, che presenta di persona oggi in Vaticano.

Con una lettera di 231 pagine e cinque capitoli, il Pontefice nato a Chicago, e laureato in matematica, mette in fila tutte le preoccupazioni che sia lui sia il suo predecessore, Francesco, hanno già sollevato relative all’impatto dell’IA su guerra, lavoro, informazione, salute mentale, ragazzi, minoranze, poveri. Ma fa di più: mette a fuoco il fatto che non si tratta di una questione meramente tecnologica o economica, ma di un nodo morale e antropologico da cui dipende il cammino dell’umanità nel presente e nel futuro.

Spinge la Chiesa a prendere posizione tempestivamente contro le nuove schiavitù, consapevole del ritardo – per il quale il Papa chiede “perdono” – del ritardo con il quale ha condannato la schiavitù nei secoli passati. E prende di mira le big tech, pur senza nominare esplicitamente figure come Elon Musk o Peter Thiel, l’eccessivo potere concentrato “nelle mani di pochi”, e la stessa filosofia di fondo che muove alcuni protagonisti della Silicon Valley che promettono una “salvezza” puramente tecnica che dimentica l’umanità e, in particolare, i più deboli.

Magnifica umanità

“Nel tempo dell’intelligenza artificiale, in cui la dignità umana rischia di essere oscurata da nuove forme di disumanizzazione, abbiamo il dovere urgente di restare profondamente umani, custodendo con amore quella magnifica umanità che ci è stata donata e mostrata nella sua pienezza in Cristo, e che nessuna macchina potrà mai sostituire nel suo splendore” (paragrafo 15).

Babele o Gerusalemme

“La magnifica umanità creata da Dio si trova oggi di fronte ad una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme” (1). Per esemplificare l’alternativa che l’umanità si trova davanti, il Papa richiama “due immagini bibliche: la costruzione della torre di Babele e la ricostruzione delle mura di Gerusalemme” (7) e suggerisce di “evitare la sindrome di Babele”: “L’idolatria del profitto che sacrifica i deboli, l’uniformità che appiattisce le differenze, la pretesa di un linguaggio unico – anche digitale – capace di tradurre tutto, persino il mistero della persona, in dati e prestazioni” (10).

Contro le big tech

“In molti casi nel contesto digitale, il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo non è appannaggio degli Stati, ma di grandi attori economici e tecnologici che, di fatto, fissano le condizioni di accesso, le regole della visibilità e le possibilità stesse di partecipazione. Quando un potere di tale portata si concentra in poche mani, tende a farsi opaco e a sfuggire al controllo pubblico, e cresce il rischio di uno sviluppo distorto che genera nuove dipendenze, esclusioni, manipolazioni e disuguaglianze” (95). Di fronte a questa “concentrazione di potere nel mondo digitale” bisogna “verificare se il potere delle infrastrutture digitali e degli algoritmi favorisca davvero partecipazione e responsabilità, protegga i più fragili, assicuri un accesso equo alle opportunità e resti ordinato al bene di tutti” (96).

Ancora, poiché “piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli” (108) allora “non serve un’IA più morale, se questa morale è decisa da pochi” (107). E “in un mondo dove pochi soggetti concentrano dati, capitale computazionale e capacità normativa, parlare di bene comune significa smascherare questa nuova asimmetria epistemica, economica e politica, nominando i nuovi monopoli dell’IA” (109).

Transumanesimo o Vangelo

Il transumanesimo e il postumanesimo, che “interpretano il progresso come superamento dell’umano”, rappresentano “i presupposti culturali che accompagnano la rivoluzione digitale” (115). “Se l’essere umano è trattato come materiale da perfezionare o da oltrepassare, allora diventa più facile accettare che alcuni vengano considerati meno utili, meno desiderabili, meno degni. In nome del progresso si può arrivare a immaginare “sacrifici necessari”, e a far pagare ai più fragili il prezzo di una presunta ottimizzazione della specie”. Ma bisogna evitare di “lasciarsi guidare da un immaginario che svaluta il limite e promette una “salvezza” puramente tecnica” (117). E se “nelle promesse del transumanesimo e di alcune correnti postumaniste, che inseguono un’umanità potenziata e quasi disincarnata, riconosciamo un desiderio che ci riguarda: il bisogno di una vita più piena, meno esposta alla fragilità e alla sofferenza”. L’incarnazione di Gesù “apre però una via diversa” (232).

Disarmare l’IA

“Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva (…) L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale” (110).

Schiavitù antiche e nuove

La Chiesa ha “progressivamente acquisito coscienza della gravità” del fenomeno, ma “non possiamo negare o minimizzare il ritardo con cui la Chiesa e la società hanno condannato il flagello della schiavitù”: “Per questo, a nome della Chiesa, domando sinceramente perdono” (176). Proprio per questo, “la memoria delle complicità e delle cecità di ieri sull’ingiustizia della schiavitù diventa per noi un richiamo alla vigilanza: ciò che abbiamo imparato deve tradursi in discernimento e responsabilità nel presente” (177). In particolare, “il colonialismo ai nostri giorni mostra un volto inedito. Non domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili” con “una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici”. Bisogna contrastare questa tendenza, “altrimenti, l’era digitale non sarà post coloniale, ma coloniale sotto altra forma” (178).

Lavoro senza garanzie

La diffusione dell’intelligenza artificiale ha un impatto sul lavoro: in questa transizione “non basta reagire quando i posti scompaiono, ma occorre governare in anticipo la trasformazione”: ogni introduzione di automazione dovrebbe essere “accompagnata da scelte verificabili di tutela dell’occupazione, di riqualificazione e di partecipazione dei lavoratori” e “serve una responsabilità d’impresa che includa la qualità e la dignità del lavoro tra gli indicatori di successo” (156).

Disinformazione e totalitarismo

“La disinformazione non nasce con l’IA, ma trova oggi in essa un moltiplicatore potente” (132). Il disinteresse per la verità porta “lentamente ma inesorabilmente a scivolare verso il totalitarismo” come ha scritto la filosofa Hannah Arendt (134). Per questo il potere di chi “controlla le piattaforme digitali e i mezzi di comunicazione” chiede di essere “continuamente illuminato dalla ricerca della verità e dal rispetto della dignità umana, perché la cultura che si genera nella rete non diventi strumento di eccessiva distrazione, di omologazione e di dominio, ma spazio in cui possano maturare libertà interiore e pensiero critico” (136).

Giovani a rischio

La letteratura ha documentato “come un’esposizione precoce e non mediata ai dispositivi digitali e ai social possa incidere negativamente su sonno, attenzione, regolazione emotiva e relazioni, soprattutto nelle età più vulnerabili, con conseguenze a volte drammatiche” e “entrare in possesso troppo presto di un telefonino personale e usarlo in modo non controllato da adulti può accentuare fragilità e favorire dipendenze nei ragazzi, esponendoli a dinamiche di isolamento, di bullismo e cyberbullismo, di pressione a condividere immagini intime o dati sensibili” (141). Per questo occorre “opporsi, con scelte pubbliche lungimiranti, all’interesse immediato delle piattaforme – concentrate in poche mani – quando esso contrasta con il bene dei minori” (142).

Guerra giusta superata

“Non è lecito affidare a sistemi artificiali decisioni letali o comunque irreversibili” (198) e “ogni tecnologia che rende più facile colpire senza vedere il volto dell’altro abbassa la soglia morale del conflitto” (199). Più in generale, “le reti di comunicazione, gli ambienti informativi frammentati e gli algoritmi che premiano lo scontro possono amplificare polarizzazione e risentimento, accelerare la propaganda e rendere più difficile un discernimento comune. Così la guerra viene non solo combattuta, ma anche preparata culturalmente attraverso narrazioni semplificanti, logiche amico-nemico, disinformazione e paura”. Per questo “oggi è più che mai importante ribadire il superamento della teoria della “guerra giusta”, troppo spesso invocata a giustificare qualsiasi guerra, fermo restando il diritto alla legittima difesa intesa nel senso più stretto” (192).

Guerra come diversivo

“In Paesi segnati da gravi tensioni sociali, non possiamo escludere che qualcuno finisca per considerare il conflitto armato come un modo efficace di distogliere l’attenzione dai problemi interni e come strumento di gestione cinica delle difficoltà” (208).

Multilateralismo in crisi

Dopo il crollo del muro di Berlino “si è affidata quasi ciecamente ai mercati la capacità di produrre benessere, democrazia e stabilità, mentre in realtà la globalizzazione non ha generato automaticamente unità e pace, ma ha suscitato reazioni fondamentaliste, identitarie e nazionalistiche. Il risultato è lontano da un autentico multilateralismo: appare piuttosto come un multipolarismo disordinato e conflittuale, dove prevale la diffidenza verso l’altro” (201).

Libero mercato addio

“Nell’epoca dell’IA e della robotica non è più possibile affidarsi alla sola “mano invisibile” del mercato: la politica ha il compito di orientare le dinamiche economico-tecnologiche verso il bene comune, promuovendo lavoro dignitoso, inclusione sociale e un’equa distribuzione dei benefici dell’innovazione” (163). E’ necessario “superare gli attuali parametri di misurazione del grado di sviluppo, da oltre ottant’anni ancorati al concetto di Prodotto Interno Lordo” (159).

Corsa alle terre rare

“Una parte significativa del funzionamento dell’economia digitale si regge sul lavoro silenzioso di milioni di esseri umani, impiegati in attività poco visibili ma essenziali: etichettatura dei dati, moderazione dei contenuti – spesso pessimi –, addestramento dei modelli. In molti casi si tratta di giovani, per lo più donne, che lavorano duramente per compensi minimi. A questa fatica invisibile si aggiunge quella, ancora più brutale, dell’estrazione delle risorse necessarie alla produzione dei dispositivi e dei microprocessori su cui poggia l’IA. In alcune regioni del mondo, adolescenti e bambini lavorano in condizioni pericolose nella frantumazione dei materiali da cui si ricavano le terre rare” (173).

Non neutralità

“Non possiamo considerare l’IA moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni”. Per questo, “il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano” (104).

Autocritica sugli abusi

“Anche le comunità cristiane devono impegnarsi in una comunicazione trasparente e nella ricerca leale dei fatti. Purtroppo, non sempre è stato così. Abbiamo assistito con vergogna alla faticosa scoperta di verità dolorose anche su membri della Chiesa e su realtà ecclesiali” (138).

Prudenza, sobrietà, digiuno

“Chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana” (106). “È urgente promuovere un uso delle tecnologie che rafforzi la libertà interiore: educazione alla sobrietà digitale, protezione dei minori e contrasto a modelli che prosperano sulla vulnerabilità” (170). “Dobbiamo educarci a digiunare dall’IA e proteggere i nostri giovani dalla promessa della macchina perfetta” (140).

Gandalf, Frankl, Beethoven

Tra i molti autori citati nell’enciclica, oltre a quelli più classici, a partire dai precedenti Pontefici, si trovano John Ronald Reuel Tolkien, e in particolare una frase di Gandalf; Viktor Frankl, in una pubblicazione uscita a Boston nel 1963; e ancora “la Nona di Beethoven come desiderio di unità; Guernica come denuncia della disumanizzazione; Schindler’s List come invito a non consegnare il passato all’oblio” (122).