Zamagni: «Per Leone XIV l’Ai minaccia lo Stato e l’uomo, serve un’autorità sovranazionale»

Un testo innovativo, che cerca di plasmare il futuro invece che di correggere il presente, mettendo in fila i rischi – per la democrazia, per l’economia, per il lavoro, per lo sviluppo della persona – legati all’intelligenza artificiale e sottolineando l’importanza della responsabilità umana. L’enciclica “Magnifica humanitas” di Leone XIV, pubblicata nel 135° anniversario della pubblicazione della “Rerum novarum” di Leone XIII, sembra destinata a segnare l’inizio di una nuova dottrina sociale per la Chiesa cattolica. Ne abbia parlato con Stefano Zamagni, docente di Economia civile all’Università di Bologna, già presidente dell’Agenzia per il Terzo settore ed ex presidente della Pontificia accademia delle Scienze sociali.

Professore, come valuta l’enciclica “Magnifica humanitas”?

Mi sembra un’enciclica molto innovativa rispetto alla tradizione della dottrina sociale della Chiesa. In primo luogo, per l’approccio: utilizza un linguaggio accessibile a tutti, anche chi non è esperto della materia e penso che sia un pregio non da poco.

E il secondo?

È la prima enciclica che gioca d’anticipo. La “Rerum novarum” di Leone XIII era stata scritta per rispondere alla situazione che si era venuta a creare con l’avvento della seconda rivoluzione industriale e con la pubblicazione, nel 1848, del Manifesto del Partito comunista, quindi era un testo che interveniva per dare un’interpretazione di un fenomeno già avvenuto e per correggere alcuni punti. “Magnifica humanitas”, invece, arriva prima che a livello “laicale” si siano manifestate espressioni problematiche.

Il papa mette in guardia contro i rischi legati alla concentrazione dell’innovazione tecnologica, intelligenza artificiale comprese, nelle mani di pochi. Che ne pensa?

Mentre nelle ondate di innovazione del passato era lo Stato a guidare il processo innovativo, oggi sono attori privati. Questo ha risvolti politici – in senso lato – molto ampi: l’innovazione tecnologica non ambisce più solo al potere economico, come normale che sia, ma anche a quello politico, ambisce a sostituire lo Stato e la democrazia.

Non a caso, il papa sottolinea che l’AI non è moralmente neutra.

Esatto. Una tesi amata dalla maggior parte degli economisti è la cosiddetta Noma, che sta per “non-overlapping magisteria” e sottolinea la separazione tra la scienza, in questo caso l’economia e l’intelligenza artificiale, e l’etica. Il papa la rifiuta e nell’enciclica spende molte parole per dire che il discorso etico non può rimanere fuori. Del resto, l’AI viene alimentata, nutrita dagli esseri umani, che le forniscono informazioni e dati. Un’azione, questa, carica di moralità.

Oligopoli tecnologici che controllano uno strumento che può stravolgere negativamente l’economia. Qual è la proposta del papa?

Il terzo punto di innovazione dell’enciclica è la riformulazione del concetto di responsabilità sociale dell’impresa. Fino a oggi, era un concetto che si riferiva al rapporto tra impresa, lavoratori e ambiente. Ora, invece, Leone XIV afferma per la prima volta che l’impresa responsabile è quella che volutamente rinuncia a usare l’intelligenza artificiale per dequalificare il lavoro e favorire nuove forme di schiavitù o violenza. Non è un caso che il papa abbia invitato Christopher Olah, il fondatore di Anthropic, l’azienda americana che per prima ha rinunciato centinaia di milioni di dollari dal Pentagono opponendosi all’uso militare della sua tecnologia.

Serve un organismo sovranazionale?

Leone XIV non può dirlo apertamente, perché non spetta a lui, ma a chi ha orecchie per intendere è facile capire che nel momento in cui solleva questi punti, sta dando l’indicazione di dare vita a un’autorità sovranazionale in grado di controllare e stabilire in che modo l’etica deve entrare nei discorsi regolamentativi della materia. Come si è fatta, all’interno dell’Onu, l’Organizzazione mondiale del commercio, non si capisce perché non si possa creare un’Organizzazione mondiale per l’intelligenza artificiale. Che tra l’altro servirebbe all’Europa, che altrimenti rischia di essere schiacciata dal “cannibalismo” di Stati Uniti e Cina. Bisogna evitare che i furbi traggano vantaggio dal comportamento etico degli altri.

Ha accennato agli altri due punti toccati dall’enciclica: lavoro e guerra. Partiamo dal lavoro: con l’avvento dell’AI si profila un nuovo diritto del lavoro?

Il papa fa capire che le relazioni industriali non riguardano più solo il rapporto tra datore di lavoro e lavoratore. Oggi c’è anche l’intelligenza artificiale, il cui ingresso sappiamo che spiazzerà diversi profili professionali. Per questo è necessario che nella contrattazione questo discorso entri e che sia affrontato da entrambe le parti, non possono essere discussi solo dal capitale.

Veniamo alla guerra. Leone XIV è il primo pontefice a superare la dottrina della guerra giusta. Ma come si avvia una vera transizione verso un’economia di pace?

In questo caso, il punto di partenza è l’enciclica “Popolorum progressio” di Paolo VI (1967), in cui il pezzo forte è il sottotitolo: “Sviluppo è il nuovo nome della pace”. Oggi, papa Leone sottolinea come la guerra non sia causale ma figlia dell’aumento endemico delle ingiustizie e del neocolonialismo. In questo quadro, la guerra non si scongiura con il riarmo, ma con politiche capaci di generare sviluppo. Attenzione, sviluppo, non crescita.

Qual è la differenza?

In senso etimologico, “sviluppo” vuol dire togliere ciò che avviluppa, togliere le catene, ed è quindi un termine legato a doppio filo con il concetto di libertà. La crescita, invece, fa riferimento all’aumento della produzione di beni e servizi. C’è quindi una dicotomia tra una dimensione più sociorelazionale e spirituale e una più economica, ma questa seconda fa parte della prima. Il grande errore del passato è stato far coincidere sviluppo e crescita con l’invenzione del Pil, che non tiene conto dei costi umani e ambientali e tra l’altro non è neanche un indicatore esaustivo della ricchezza di un Paese. Tra l’altro, il Pil, che ha appena ottant’anni di vita, fu creato negli anni 30 per ragioni squisitamente politiche: dimostrare la superiorità del modello occidentale di mercato su quello sovietico della pianificazione.

Secondo alcuni commentatori, l’enciclica è timida nel considerare le nuove implicazioni sulla natura umana che l’intelligenza artificiale porta con sé. Lei che ne pensa?

È una critica che non mi trova d’accordo. Il papa fa riferimento in diversi punti ai rischi legati al transumanesimo e al postumanesimo, cioè teorie che sostengono che la natura umana, al pari di quella fisica, è destinata a cambiare. Il papa non scende nel dettaglio di una discussione ontologica, ma denuncia come un rischio assoluto, pericolosissimo questa prospettiva.

In apertura: foto Vatican Media/LaPresse