Un primo commento all’Enciclica di Papa Leone XIV
Di Alberto Baldasseroni
Consulta qui il testo dell’enciclica.
Accingendomi a scrivere queste note sono preso da una strana ansia: come può un semplice operatore della prevenzione oltretutto in pensione permettersi di sottoporre a critica l’Enciclica di un Papa? Confesso che è la prima volta che leggo tutta intera un’enciclica. Non lo avrei mai immaginato! Eppure, stavolta è stato necessario, direi quasi urgente farlo. Perché? In altri tempi non lontani (lo vedremo in seguito) ci saremmo affidati a Maestri molto più preparati e capaci di noi che ci avrebbero guidato per entrare in dettagli a volte difficili e ambigui. Ma al giorno d’oggi mancano tali personaggi o, perlomeno, non godono più di palcoscenici a noi familiari (riviste militanti, documenti collettivi, seminari produttivi di prese di posizione) almeno nel campo che più ci sta a cuore, la salute pubblica collettiva.
Diciamo subito che il testo di Robert Prevost (alias Papa Leone XIV) ci ha affascinato. A una lettura complessiva ci si ritrovano tali e tanti principi, considerazioni, aspirazioni umane che si stenta a rammentarle tutte. Vien voglia di dire: finalmente un testo che ci spinge verso il futuro dandoci dei punti di riferimento solidi, non trattabili, quelli che la stampa d’informazione ha evidenziato ampiamente e sui quali non torniamo. Così come non toccheremo gli aspetti teologici e dottrinali, pur presenti in molte delle 245 affermazioni magistrali che compongono l’enciclica.
Ciò su cui soffermeremo la nostra attenzione sono i punti che trattano degli aspetti più controversi dell’Intelligenza Artificiale (IA) così come si è ormai configurata.
I punti in discussione
Ci pare importante l’affermazione riportata al punto 65 che sotto il titolo di “Il principio della destinazione universale dei beni”, introduce il concetto di “destinazione universale dei beni immateriali”, quelli relativi agli sviluppi dell’IA, che vengono in questo modo assimilati alla analoga “destinazione universale dei beni materiali” quali la terra, il suolo, l’aria, l’acqua, le risorse naturali considerati tutti beni che sono stati affidati all’uomo affinché ne faccia buon uso non per sé come singolo individuo, ma per sé come ente collettivo, appartenente a una comunione di individui attuali e potenziali (le future generazioni). Nel punto 67 si specifica quali siano nella realtà questi beni “immateriali”: brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati. Riportiamo le precise parole del testo papale perché sono molto chiare:
“67. Oggi, tra i beni che sono universalmente destinati a tutti, dobbiamo annoverare anche le nuove forme di proprietà: brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati. In un contesto in cui la ricchezza delle nazioni dipende sempre più da conoscenze e tecnologie, quando questi beni restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio che contraddice la destinazione universale dei beni e alimenta il divario tra inclusi ed esclusi, tra chi può partecipare alla rivoluzione digitale e chi ne rimane ai margini. Inoltre, la cura della Casa comune e la responsabilità verso i poveri e verso le generazioni future chiedono che l’uso dei beni del creato e delle nuove possibilità offerte dalla tecnica sia regolato in modo tale da rispettare l’ambiente, evitare sprechi e nuove forme di saccheggio.”
Poco avanti sotto il titolo di “Il principio di sussidiarietà”, tanto caro alla Chiesa Cattolica, si postula la necessità che questi sviluppi dell’IA vengano accompagnati dall’intervento dei “corpi intermedi” della società civile, cioè dalla partecipazione dei “credenti” nelle forme del loro associazionismo, ma per analogia ed estensione dalla partecipazione di tutti i soggetti interessati in forma associata. I riferimenti al Papa Leone XIII autore della enciclica Rerum Novarum sono espliciti e ribaditi: la partecipazione dei credenti si sostanzia attraverso le forme del sindacato, delle comunità ecclesiali, ecc. che devono impegnarsi per far sentire la propria voce in difesa dei principi della Chiesa e, più in generale, dell’umanità, contro gli usi distorti della tecnica, cioè dell’IA.
Il successivo principio richiamato è quello alla “solidarietà”.
“80. In questo tempo, la giustizia sociale deve confrontarsi anche con l’ambiente creato dalle tecnologie digitali. La diffusione di reti globali, piattaforme e sistemi di intelligenza artificiale cambia il modo di informarsi, di comunicare, di accedere ai servizi. La giustizia esige che si impedisca la nascita di nuove forme di esclusione e privazione di libertà: persone e popoli a cui è negato o ostacolato l’accesso alle tecnologie di base, comunità esposte a sorveglianza invasiva, gruppi sociali penalizzati da algoritmi opachi che riproducono pregiudizi e discriminazioni. Un ordine sociale giusto nel tempo del digitale è quello che garantisce a tutti un accesso equo alle opportunità, protegge i più piccoli e i più fragili, contrasta l’odio e la disinformazione, sottopone a controllo pubblico l’uso dei dati e delle tecnologie, così che il criterio non sia il solo profitto ma la dignità di ogni persona e il bene dei popoli.”
Difficile non condividere queste parole. Nel successivo punto 85 si ribadisce il concetto della “non neutralità” delle innovazioni tecnologiche, già affermato in apertura al punto 9.
“… Le innovazioni tecnologiche – compresa l’intelligenza artificiale – non sono neutrali: possono accrescere partecipazione e giustizia, oppure ampliare disuguaglianze, controllo ed esclusione. Per questo vanno valutate con una domanda decisiva: contribuiscono davvero a far crescere persone e popoli in umanità e fraternità, nel rispetto della Casa comune e delle generazioni future? È qui che i principi della Dottrina sociale diventano criteri concreti di discernimento per gli ambiti che affronteremo nei capitoli seguenti.”
Il capitolo terzo si apre con un titolo affascinante: “TECNICA E DOMINIO. LA GRANDEZZA DELLA PERSONA UMANA DAVANTI ALLE PROMESSE DELL’IA”
I punti 98 e 99 rappresentano il cuore del testo che più ci interessa. Li riportiamo integralmente perché meritano la massima attenzione:
“98. È opportuno premettere due considerazioni: la prima è che qualsiasi affermazione sull’IA rischia di diventare obsoleta in breve tempo, data l’impressionante velocità di sviluppo di questi sistemi. La seconda è che tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento. Le moderne intelligenze artificiali sono infatti più “coltivate” che “costruite”: gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano un’architettura sulla quale l’IA “cresce”. Di conseguenza, aspetti scientifici fondamentali – come le rappresentazioni interne e i processi computazionali di questi sistemi – rimangono al momento sconosciuti. Si manifesta pertanto l’urgenza di un duplice impegno: da un lato, un approfondimento della ricerca scientifica, dall’altro, un esercizio di discernimento morale e spirituale.
- Non è possibile dare una definizione univoca e completa dell’IA. Ciò che possiamo affermare è che occorre evitare l’equivoco di equiparare questa “intelligenza” a quella umana. Questi sistemi imitano alcune funzioni dell’intelligenza umana. Nel farlo, spesso la superano per velocità e ampiezza di calcolo, offrendo benefici concreti in numerosi campi. E tuttavia, questa potenza resta legata esclusivamente al trattamento dei dati: le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze. Possono imitare linguaggi, comportamenti, valutazioni, possono simulare empatia o comprensione, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente. Anche quando tali strumenti vengono presentati come capaci di “apprendere”, il loro modo di farlo è diverso da quello della persona umana. Non è l’esperienza di chi si lascia plasmare dalla vita e cresce nel tempo attraverso scelte, errori, perdono, fedeltà; è piuttosto un adattamento statistico a partire da dati e riscontri, che può essere molto efficace, ma non implica una crescita interiore.”
In particolare, il punto 99 definisce ciò che non è l’IA, dando così una descrizione indiscutibile dei limiti insuperabili da parte dell’IA nei confronti del suo omologo umano. Di questa descrizione bisognerà fare tesoro ogniqualvolta si vorrà affermare l’impossibilità da parte della “macchina” di sovrastare il pensiero umano. Certamente ne avremo di occasioni in futuro!
Il punto 103 tocca un altro nodo cruciale, quello della decisione guidata dall’IA o, peggio, lasciata nelle mani dell’IA. Il testo del punto si riferisce all’esclusione o all’inclusione che segua i criteri dell’IA, ma introduce un argomento su cui torneremo in sede di commento, quello della presunta “oggettività” della macchina rispetto all’essere umano nel disporre una decisione:
“103. Affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane. Ciò che viene meno, in questo processo, non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare. E così, l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte.”
Nel punto 105 si presenta un altro concetto importante, l’Accountability, quella caratteristica cioè che consente di attribuire le responsabilità di ciò che viene fatto, opache, sfuggenti quando non oscure del tutto nel caso di molti Agenti di IA.[1] Al punto 108 si ribadisce che “… la proprietà dei dati non può essere affidata solo a privati, ma va regolamentata. Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi. Serve una creatività in grado di gestirli come uno dei beni comuni o collettivi, nella logica della condivisione…”
Al punto 150 si parla di lavoro e dell’impatto che l’IA può avere su di esso. Anche in questo caso è bene riprodurre il testo in forma completa:
“150. Oggi, l’intreccio tra automazione, robotica e IA sta trasformando rapidamente la struttura stessa del lavoro. Questo porterà, si dice, grandi miglioramenti per tutti. In realtà, i “nuovi modi” di lavorare non sono necessariamente migliori, perché «mentre l’IA promette di dare impulso alla produttività facendosi carico delle mansioni ordinarie, i lavoratori sono spesso costretti ad adattarsi alla velocità e alle richieste delle macchine, piuttosto che siano queste ultime a essere progettate per aiutare chi lavora. Per questo, contrariamente ai benefici dell’IA che vengono pubblicizzati, gli attuali approcci alla tecnologia possono paradossalmente dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive. La necessità di stare al passo con il ritmo della tecnologia può erodere il senso della propria capacità di agire da parte dei lavoratori e soffocare le capacità innovative che questi sono chiamati a profondere nel loro lavoro». [152] Proprio per evitare questa deriva, occorre progettare sistemi centrati sulla persona e non soltanto sulla prestazione.”
Torneremo su questo punto in sede di commento finale.
Più avanti al punto 171 si descrivono caratteristiche pericolose dell’attuale dominio dei sistemi informatici per la comunicazione:
“…Quando ogni gesto lascia tracce – spostamenti, acquisti, relazioni, preferenze – si crea un potere nuovo: quello di profilare, prevedere e orientare i comportamenti, spesso senza che le persone ne abbiano piena consapevolezza. Se questi dati vengono usati per prendere decisioni che incidono su opportunità concrete (accesso al credito, selezione del personale, servizi) si rischia di ledere la libertà e discriminare i più vulnerabili. Inoltre, il controllo non passa solo da divieti espliciti, ma dall’architettura della visibilità: ciò che viene amplificato o reso invisibile, ciò che è premiato o penalizzato, finisce per modellare opinioni e scelte, generando conformismo e autocensura…”
Straordinario, anche per il lessico utilizzato, il punto 178, nel quale si parla anche dei dati sanitari:
“178. Il colonialismo ai nostri giorni mostra un volto inedito. Non domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili. Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilità strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici. Sono queste le nuove “terre rare” del potere: informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi, guidare strategie di investimento, anticipare le crisi e soprattutto selezionare chi e che cosa conta. Chi possiede i dati sanitari di intere popolazioni, oggi raccolti spesso sotto il segno dell’aiuto, della ricerca o dell’innovazione, possiede in realtà una leva strutturale sul futuro: può modellare i bisogni e i mercati. E può decidere, prima degli altri, a chi destinare farmaci, investimenti, protezioni…”
Al punto 181 infine il documento pontificio esplicita le proposte concrete per realizzare un corretto approccio all’IA e agli scenari ad essa legati:
“181… la Dottrina sociale della Chiesa propone una responsabilità condivisa. Chiede che questi processi siano governati con lungimiranza: da istituzioni capaci di regolare senza soffocare e di proteggere senza sostituirsi; da imprese che riconoscano nel lavoro e nella dignità un criterio di successo; da corpi intermedi e comunità educative che ricostruiscano fiducia e legami; da cittadini che coltivino responsabilità, sobrietà, discernimento e senso del vero. Solo così l’innovazione potrà diventare realmente sviluppo umano integrale e non fattore di esclusione e dominio; e solo così la promessa del progresso potrà essere riconosciuta come vera, perché misurata sulla dignità inviolabile di ogni uomo e di ogni donna “
I restanti punti fino all’ultimo il 245 trattano di argomenti teologici e morali, che esulano dalla nostra possibilità di commento. Segnaliamo soltanto il punto 214 dal titolo “Disarmiamo le parole” perché ci pare talmente condivisibile da renderlo un’invocazione unanime.
Il commento
Dopo aver evidenziato i punti che ci sono parsi più rilevanti, anche se non ci nascondiamo che molti altri potevano rientrare in tale definizione, proviamo a commentare dal nostro punto di vista.
Senza nulla togliere alla validità e importanza del messaggio etico trasmesso dai tanti punti considerati, tuttavia ci sembra che non sia eludibile il nodo economico sotteso allo sviluppo di queste tecniche di IA. In questo ci vengono in aiuto i personaggi a cui accennavamo all’inizio, cioè quei maestri del pensiero “oppositivo”, critico, che hanno potuto avvicinarsi in tempi precoci a questi temi. Mi riferisco in particolare a Giulio Maccacaro (1924-1977) e a Marcello Cini (1923-2012), un binomio di scienziati e attivisti del pensiero critico che ci hanno formato proprio su questi temi[2]. Del primo non possiamo non ricordare la preveggente visione di un futuro in cui l’informatica applicata alla medicina avrebbe consentito di disporre di una quantità enorme di dati sui quali basare progressi scientifici, ma al tempo stesso rischi di derive speculative e discriminatorie. Maccacaro scriveva queste sue intuizioni negli anni ’60 del secolo scorso, quindi in epoca remota rispetto all’attuale scenario dell’IA, ma aveva lucidamente previsto la china che stavano prendendo le cose e di lì in poi si sarebbe speso senza risparmio per modificare le traiettorie predatorie che il capitalismo dei “beni materiali” stava decidendo.
Marcello Cini, pur coetaneo di Maccacaro, per nostra fortuna ha avuto modo di osservare più a lungo gli sviluppi degli scenari relativi all’applicazione dell’informatica alla vita quotidiana. È stato così in grado di analizzarne le caratteristiche di fondo che sono le stesse di quelle a cui assistiamo in questi ultimi anni, essendo l’irrompere dell’IA sulla scena solo l’ultimo passaggio di un percorso le cui premesse erano state costruite nel corso degli ultimi due o tre decenni. Cini, quindi, ci accompagna nel mondo nuovo di un capitalismo che è transitato dalla produzione di beni materiali, deperibili, inquinanti, soggetti a sprechi e a diseconomie cicliche, al capitalismo che produce beni immateriali, dati, informazioni, algoritmi, modelli linguistici, ecc. non deperibili, meno inquinanti (anche se…) soprattutto non soggetti ad alcun spreco, pervasi da una logica di accumulo senza limiti, se non quelli legati ai centri di calcolo e processori disponibili. Alla base però di questi sviluppi entrambi questi scienziati pongono non tanto l’uso non neutrale della tecnica, come indicato invece nell’enciclica, ma proprio la non neutralità della scienza della quale la tecnica rappresenta solamente un aspetto strumentale. In altri termini non si tratta solamente di utilizzare i traguardi della scienza in maniera più eticamente condivisibile, ma di ragionare sui presupposti dai quali gli attuali sviluppi scientifici e tecnologici sono nati per individuarne i vizi d’origine e scoprirne quindi le tare di partenza. Quindi non solo la critica all’uso “non neutrale” della tecnica, come invocato dalle tesi dell’enciclica, ma anche la critica ai modi di sviluppo degli strumenti dell’IA. In un contesto sociale di capitalismo maturo come quello in cui viviamo, illudersi che il richiamo ai giusti principi dell’etica umana, come quelli richiamati dallo scritto del Papa, verrà ascoltato è vano. Gli enormi capitali investiti da anonimi rentiers e finanzieri corsari per supportare promettenti start-up informatiche nel campo dell’IA non rispetteranno mai alcun principio etico che sia differente da quello deciso in partenza, il profitto economico e il potere sui mezzi per produrlo. L’informazione e adesso la conoscenza attraverso i dati raccolti è “merce” nel mercato capitalista e può trasformarsi in denaro. Il mercato a sua volta, grazie agli sviluppi della connettività globale assume una vastità e pervasività sconosciuta in precedenza. Se negli anni ’70 ci si preoccupava delle cosiddette “Multinazionali”, società in grado di vendere la propria merce su base mondiale, adesso è il mercato stesso che si è ampliato nella stessa misura. Di conseguenza non siamo più di fronte a entità statali che pur accentrando potere e ricchezza per fini di potenza e dominio devono in qualche modo rispondere ai propri “sudditi”, ma a oligarchie economiche in grado di orientare decisioni e scelte di miliardi di persone ben al di là dei confini delle nazioni.
Il bel richiamo contenuto nel punto 178 alle nuove forme di “colonialismo dal volto inedito” che noi chiameremmo “imperialismo dell’algoritmo” torna a ricordarci quali sono i valori in gioco, tra i quali la libertà di cui godiamo nei nostri paesi è tra quelli più a rischio. Opportuno ed essenziale in quel punto anche il richiamo all’appropriazione dei dati sanitari in molti contesti geografici che possono consentire alle aziende produttrici di farmaci e presidi sanitari di affinare i propri piani produttivi e sviluppare nuovi ritrovati in funzione di orientamenti rilevati nelle popolazioni delle quali siano disponibili i dati sullo stato di salute.
Quanto all’impatto sul lavoro dell’IA l’enciclica è francamente deludente. Ne parla solamente nel punto 150 con un testo che riecheggia discussioni del passato sull’impatto dell’Automazione nei luoghi di lavoro. Si era allora negli anni ’50 e ’60 del secolo XX e in numerosi incontri convegnistici, seminari di approfondimento, documenti di posizione da parte delle forze sociali coinvolte si analizzarono i riflessi dell’introduzione nel nostro paese delle nuove macchine automatiche volte a inglobare parti sempre più ampie delle capacità operaie di lavoro. Le parole del punto 150 potevano benissimo risultare da quei dibattiti, essere scritte in quei documenti senza alcuna modifica. Segno di una incompiuta capacità di penetrare tra le “mura” metaforiche dei luoghi di lavoro, ormai anch’essi resi sempre più virtuali nei nuovi scenari disegnati e favoriti dall’IA.
Del tutto condivisibile e importante è il punto 171 quello che puntualizza la pervasività di queste tecniche potenziate dall’IA che consentono un monitoraggio continuo dei singoli individui attraverso le “tracce” informatiche che ognuno di noi finisce inevitabilmente per lasciare e rendere quindi disponibili all’IA. Scenari da brividi, non c’è dubbio e il documento papale stigmatizza i rischi che ne potrebbero derivare.
In definitiva un testo di grande spessore, ricco di spunti utili alla discussione e stimolanti per iniziative comuni tra credenti e laici in vista di future mobilitazioni assolutamente necessarie da parte della società civile nei confronti di sviluppi che sono essenziali per il futuro nostro, ma soprattutto per quello dei nostri figli, nipoti e pronipoti.
Non posso concludere senza un richiamo a un’opera dell’intelletto umano che prefigurava scenari tipici di un mondo dominato da forme di controllo pervasivo. Mi riferisco al film “The Truman Show” del regista Peter Weir del 1998. Film distopico per eccellenza che merita di essere rivisto alla luce del dibattito attuale sull’IA e suoi pericoli ad essa collegati come riportato dall’enciclica Magnifica Humanitas di Papa Leone XIV.[3]
[1] A tal proposito si segnala una sentenza che ha attribuito del tutto recentemente a Google la responsabilità di malfunzionamenti del suo Agente di IA Gemini.
[2] Per un approfondimento sul contributo di questi due scienziati agli scenari dell’IA vedi Baldassarre A , Baldasseroni A. Dall’intelligenza meccanica all’intelligenza artificiale: sintesi dell’evoluzione e rivoluzione tecnologica. In: Cantoni S, Vitale R, Cigada E (a cura di) L’Intelligenza Artificiale per la Salute e Sicurezza sul lavoro e-book CIIP, Milano settembre 2025, pp.10-22
[3] Non è possibile non ricordare anche altri film che hanno anticipato in maniera preveggente molto di quello che sta avvenendo sotto i nostri occhi: 2001 Odissea nello spazio di Stanley Kubrick 1968; Blade runner del 1982 di Ridley Scott; Oblivion 2013 con Tom Cruise; tutti film di fantascienza che però contengono messaggi di grande attualità.
