la sfida di restare umani nell’era dell’intelligenza artificiale

L’enciclica di Papa Leone XIV, Magnifica humanitas e la nuova torre di Babele.

C’è una domanda che attraversa il nostro tempo come una lama: chi governerà il mondo che stiamo costruendo? L’uomo o la macchina? La coscienza o il calcolo? La politica o l’algoritmo? La persona o il dato?

La prima enciclica di Papa Leone XIV, Magnifica humanitas, nasce esattamente dentro questa frattura. Non è soltanto un documento religioso. È un manifesto civile, culturale, politico. È il tentativo di riportare l’uomo al centro di un’epoca che rischia di trasformarlo in profilo statistico, consumatore prevedibile, lavoratore sostituibile, cittadino sorvegliabile, bersaglio calcolabile.

L’immagine iniziale è potente: l’umanità si trova davanti a una scelta decisiva, «innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme». La torre di Babele, oggi, non è fatta di mattoni. È fatta di dati, server, modelli predittivi, potenza computazionale, sistemi autonomi, armi intelligenti, piattaforme globali, monopoli tecnologici. È la tentazione antica dell’uomo che vuole salire al cielo non per incontrarlo, ma per sostituirlo.

La tecnologia promette di guarire, educare, connettere, proteggere l’ambiente, migliorare la vita. Ma può anche dividere, escludere, sorvegliare, manipolare, discriminare, uccidere. Il punto decisivo dell’enciclica è qui: la tecnologia non è neutrale. Non lo è mai. Assume il volto di chi la progetta, la finanzia, la possiede, la regola, la usa.

Per questo Leone XIV chiede una cosa che può sembrare paradossale: disarmare l’intelligenza artificiale.

Disarmare la tecnica

Disarmare l’AI non significa spegnerla. Non significa rinunciare al progresso, né rifugiarsi in un romanticismo antitecnologico. Significa sottrarla alla logica del dominio. Significa impedire che la potenza tecnica diventi automaticamente diritto di governare. Significa rompere l’equivalenza tra chi possiede più dati, più calcolo, più capitale, più algoritmi e chi pretende per questo di decidere il destino degli altri.

È una delle intuizioni più forti dell’enciclica: l’intelligenza artificiale non è più soltanto uno strumento. È già un ambiente. Ci abitiamo dentro. Orienta le nostre scelte, seleziona le informazioni che vediamo, decide quali contenuti circolano, influenza il credito, il lavoro, la sanità, la sicurezza, la scuola, la guerra. Non è più un utensile nelle mani dell’uomo. È una forma di potere.

Perciò non basta regolarla. Va resa abitabile. Va resa discutibile, contestabile, trasparente. Va sottratta ai monopoli. Va riportata dentro la pluralità delle culture, delle comunità, delle istituzioni democratiche. Una tecnologia abitabile è una tecnologia che non schiaccia l’uomo, non lo riduce a dato, non lo espelle dal processo decisionale.

Leone XIV raccoglie e radicalizza il monito già presente nel magistero di Francesco contro il paradigma tecnocratico: l’idea secondo cui tutto ciò che è efficiente è anche giusto; tutto ciò che è possibile è anche legittimo; tutto ciò che aumenta la produttività merita di essere fatto.

Ma l’efficienza non è una morale. Il calcolo non è una coscienza. La performance non è un criterio sufficiente di civiltà.

L’uomo prima del profitto

La scelta della data dell’enciclica non è casuale. Magnifica humanitas viene firmata nel 135° anniversario della Rerum novarum di Leone XIII, il documento con cui la Chiesa entrò nel cuore della questione sociale generata dalla rivoluzione industriale.

Allora il problema era il rapporto tra capitale e lavoro, tra fabbrica e operaio, tra proprietà e giustizia sociale. Oggi la fabbrica si è fatta algoritmo. Il capitale si è fatto piattaforma. Il lavoro si è fatto flusso, prestazione, automazione, profilazione. Ma la questione di fondo resta la stessa: l’uomo viene prima del profitto o il profitto viene prima dell’uomo?

La Dottrina sociale della Chiesa torna così a misurarsi con una nuova rivoluzione industriale, forse ancora più profonda della prima. La digitalizzazione, la robotica e l’intelligenza artificiale stanno trasformando non solo il modo di produrre, ma anche il modo di decidere, conoscere, lavorare, combattere, desiderare.

L’enciclica non nega le potenzialità positive del mercato, dell’iniziativa privata, della tecnologia, della finanza. Ma ricorda che tutto questo deve essere subordinato alla dignità della persona e al bene comune. Il lavoro, in particolare, non è soltanto mezzo di reddito. È espressione della libertà, della creatività, della cooperazione, della dignità dell’uomo.

Se l’intelligenza artificiale aumenta la produttività ma cancella opportunità, se rende più ricchi pochi soggetti e più fragili intere comunità, se sostituisce persone senza redistribuire benefici, se trasforma il lavoratore in una variabile da ottimizzare, allora non siamo davanti al progresso. Siamo davanti a una sofisticata regressione.

Efficienza e giustizia

Qui il pensiero religioso incontra, sorprendentemente, il miglior pensiero laico. Le Considerazioni finali della Banca d’Italia, nelle parole di Fabio Panetta, offrono due bussole per attraversare le acque ignote dell’intelligenza artificiale: efficienza e giustizia.

È un binomio decisivo. L’efficienza serve a capire come funziona un sistema economico, dove produce ricchezza, dove la disperde, dove genera sprechi, rendite, miopie, fallimenti. Ma l’efficienza da sola non basta. Può indicare il modo più rapido per raggiungere una meta sbagliata. Può rendere più elegante una diseguaglianza. Può trasformare un’ingiustizia in procedura.

La giustizia, invece, chiede per chi e contro chi funzioni quella macchina. Chiede chi resta fuori, chi paga il prezzo, chi beneficia del vantaggio, chi controlla i dati, chi subisce decisioni incomprensibili.

Quando un algoritmo decide l’accesso al credito, la selezione del personale, la concessione di un servizio, la valutazione di un rischio, la distribuzione di un’opportunità, non siamo più nel regno astratto della tecnica. Siamo nel cuore della cittadinanza.

Per questo l’economia dell’AI deve essere trasparente e responsabile. Le decisioni automatizzate devono essere comprensibili, contestabili, controllabili. La persona non può essere ridotta a profilo. Il risparmio, il credito, la finanza, l’innovazione devono restare legati all’economia reale, allo sviluppo, al lavoro, agli investimenti, non diventare pura finanza per la finanza.

È qui che il linguaggio di una banca centrale e quello di un’enciclica, pur provenendo da mondi diversi, finiscono per toccarsi: l’intelligenza artificiale non produrrà spontaneamente benessere condiviso. Deve essere governata.

La democrazia del vero

Uno dei punti più delicati riguarda la verità. L’intelligenza artificiale può manipolare testi, immagini, video, voci, identità. Può costruire contenuti artificiali perfettamente credibili. Può rendere incerto ciò che fino a ieri sembrava evidente. Può moltiplicare la disinformazione e renderla personalizzata, emotiva, capillare.

Ma una democrazia non vive soltanto di procedure. Vive di realtà condivisa. Se non distinguiamo più tra vero e falso, tra fatto e finzione, tra documento e simulazione, il dibattito pubblico non è più confronto: diventa nebbia.

Non a caso l’enciclica richiama Hannah Arendt, che nelle origini del totalitarismo vedeva un pericolo estremo proprio nella perdita della distinzione tra fatto e finzione, tra vero e falso. È una citazione laica, ma profondamente spirituale nel suo significato: quando la verità muore, la libertà non la segue da lontano. Cade subito dopo.

Il falso non è più soltanto menzogna. Nell’era algoritmica diventa ambiente, flusso, atmosfera. Non persuade solo con argomenti: circonda. Non mira solo a far credere una cosa falsa: mira a rendere irrilevante ogni verità.

Per questo la ricerca della verità è un elemento essenziale della democrazia. Non un lusso da intellettuali, ma una condizione della convivenza civile.

La guerra senza volto

Il capitolo più drammatico è quello della guerra. Leone XIV vede nella rivoluzione digitale un cambiamento profondo della grammatica dei conflitti. Non si tratta soltanto di nuove armi. Si tratta di una nuova mentalità.

La guerra rischia di diventare più rapida, più impersonale, più prevedibile, più automatizzata. Proprio per questo più facile. Se la decisione sulla vita e sulla morte passa attraverso sistemi opachi, sensori, calcoli probabilistici, identificazioni automatiche, bersagli ridotti a dati, allora la violenza perde il volto della vittima. E quando la vittima perde il volto, la coscienza si addormenta.

L’enciclica denuncia una cultura della potenza che normalizza la guerra, la riabilita come strumento di politica internazionale, favorisce il riarmo, alimenta l’industria bellica, indebolisce la memoria storica. La pace non viene più percepita come un compito, ma come un intervallo precario tra due conflitti.

Il monito sulle armi autonome è netto: non esiste algoritmo che possa rendere la guerra moralmente accettabile. La tecnologia non cancella la disumanità del conflitto. Può soltanto renderla più efficiente. Ma una disumanità efficiente resta disumanità.

Anzi, il rischio è ancora più sottile: abituarci all’idea che la violenza sia inevitabile e che il massimo che possiamo fare sia ottimizzarla.

Contro questa deriva Leone XIV rilancia il dialogo, la diplomazia, il negoziato, il perdono. Richiama Giorgio La Pira: al metodo della guerra bisogna sostituire il metodo della pace, dell’incontro, della convergenza. Il metodo autenticamente umano.

Sorvegliare i sorveglianti

Il discorso sull’intelligenza artificiale non resta però nel cielo dei principi. Scende nel diritto, nella polizia, nella responsabilità civile, nella vita concreta.

Gli schemi di decreto approvati dal Consiglio dei Ministri il 10 giugno, in attuazione della legge 23 settembre 2025, n. 132 e in adeguamento all’AI Act europeo, affrontano due terreni decisivi: il potere di sorveglianza dello Stato e la responsabilità per i danni causati dall’intelligenza artificiale.

Il primo terreno è il riconoscimento biometrico. Il decreto, secondo quanto chiarito, non introduce una sorveglianza di massa. L’identificazione biometrica remota in tempo reale è ammessa solo per finalità tassative: minacce gravi alla sicurezza pubblica, ricerca di persone scomparse, vittime di specifici reati. Sono previsti autorizzazioni, limiti temporali, valutazioni d’impatto sui diritti fondamentali, registri delle operazioni, divieti di banche dati alimentate tramite scraping indiscriminato del web.

Sono garanzie importanti. Ma il problema non è chiuso. Perché non basta chiedersi se esista un controllo. Bisogna chiedersi che tipo di controllo sia. Nel segmento preventivo l’autorizzazione spetta al pubblico ministero, organo dell’accusa, non a un giudice terzo. Nel procedimento penale già aperto, per i reati più gravi, interviene invece il giudice per le indagini preliminari.

La distinzione merita attenzione. La sorveglianza tecnologica non è mai un dettaglio amministrativo. È il punto in cui lo Stato guarda il cittadino. E quando lo Stato guarda attraverso una macchina, bisogna sapere chi guarda davvero, con quali limiti, con quali errori, con quale possibilità di contestazione.

Perché un’autorizzazione giudiziaria può proteggere dall’abuso intenzionale, ma non corregge da sola il bias tecnico. I sistemi biometrici possono sbagliare in modo diseguale, colpendo più spesso donne, giovani, minoranze etniche. Il diritto può autorizzare l’uso dello strumento, ma deve anche capire lo strumento. Altrimenti il controllo rischia di essere formale, non reale.

Chi paga il danno?

Il secondo terreno è ancora più scivoloso: la responsabilità civile.

Il decreto introduce strumenti processuali importanti. Il danneggiato può chiedere l’esibizione della documentazione tecnica del sistema. Se il danno deriva dalla violazione di un obbligo previsto dall’AI Act, il nesso causale si presume salvo prova contraria. La conformità del sistema al Regolamento, anche se certificata, non esclude di per sé la responsabilità. È prevista un’azione diretta contro l’assicuratore del responsabile.

Sono passi avanti. Ma rispondono soprattutto a una domanda processuale: chi deve provare cosa?

Resta aperta la domanda più difficile: chi risponde quando l’intelligenza artificiale causa un danno non riconducibile alla violazione di uno specifico obbligo dell’AI Act? Chi risponde se il sistema non è formalmente difettoso, non viola una regola precisa, ma produce comunque un effetto discriminatorio, un’allucinazione, un errore, una valutazione ingiusta?

Il fornitore? L’addestratore? Il titolare del dataset? Il soggetto che mette in esercizio il sistema? Chi lo usa nel proprio interesse?

Qui il diritto mostra la sua fatica. L’art. 2043 c.c. richiede colpa, nesso causale, prevedibilità. Ma più il sistema è autonomo, più diventa difficile dimostrare chi ha sbagliato e dove. L’art. 2050 c.c., sulle attività pericolose, incontra l’obiezione che non ogni intelligenza artificiale è intrinsecamente pericolosa. L’art. 2051 c.c., sul danno da cose in custodia, pone un’altra domanda: un sistema autonomo e capace di apprendimento continuo è ancora semplicemente una “cosa”?

La dottrina ha proposto una strada interessante: applicare al deployer, cioè a chi utilizza il sistema nel proprio interesse, il modello dell’art. 2049 c.c., la responsabilità del committente per il fatto dei preposti. Se affido un compito a un “preposto artificiale”, rispondo dei suoi effetti come risponderei del fatto di un dipendente umano.

È una soluzione elegante perché non inventa una categoria nuova. Estende un principio già esistente. Ma il decreto, per ora, non la raccoglie espressamente.

Resta anche il problema assicurativo. L’azione diretta contro l’assicuratore serve solo se un’assicurazione esiste. Se nessuno è obbligato ad assicurarsi e nessun soggetto della catena è patrimonialmente capiente, il risarcimento rischia di restare un diritto scritto sulla carta.

Il diritto davanti all’algoritmo

Il punto, allora, non è scegliere tra apocalittici e integrati. Non bisogna né adorare l’intelligenza artificiale come salvezza automatica, né demonizzarla come fine dell’uomo. Bisogna fare una cosa più difficile: governarla.

Governarla significa imporre limiti, responsabilità, trasparenza. Significa chiedere che ogni decisione automatizzata che incide sulla vita di una persona sia spiegabile e contestabile. Significa impedire che l’innovazione diventi una zona franca. Significa evitare che il fascino della novità cancelli la più antica domanda del diritto: chi risponde del male prodotto?

Il diritto non può arrivare sempre dopo, con il passo lento di chi commenta le macerie. Deve stare dentro il processo tecnologico. Non per bloccarlo, ma per renderlo umano.

Un edificio giuridico sull’intelligenza artificiale non può reggersi solo su annunci, principi solenni e comunicati stampa. Ha bisogno di pilastri: controlli effettivi, criteri chiari di imputazione, garanzie per i danneggiati, competenze tecniche dei giudici, autorità indipendenti, obblighi assicurativi, tutela dei dati, protezione dei soggetti vulnerabili.

Altrimenti resterà un cantiere. Un’impalcatura elegante, ma priva di muri portanti.

Le citazioni di un umanesimo largo

Uno degli aspetti più interessanti di Magnifica humanitas è la sua architettura culturale. L’enciclica non parla soltanto con la voce della tradizione ecclesiale. Certo, richiama la Scrittura, i Padri della Chiesa, Agostino, Tommaso, i pontefici precedenti, i documenti conciliari, la Dottrina sociale. Ma apre anche un dialogo ampio con la cultura laica.

C’è Hannah Arendt, con il suo ammonimento sulla dissoluzione della distinzione tra vero e falso. C’è Viktor Frankl, con la sua tragica e luminosa meditazione sull’uomo capace di Auschwitz ma anche di entrare nelle camere a gas pregando. C’è Giorgio La Pira, con il metodo della pace. Ci sono Beethoven, Guernica, Schindler’s List: l’arte come memoria, denuncia, desiderio di unità.

C’è perfino Tolkien, con l’idea che non spetta a noi dominare tutte le maree del mondo, ma fare il possibile per salvare gli anni nei quali viviamo, lasciando a chi verrà dopo una terra sana e pulita da coltivare.

È un passaggio decisivo. Perché il nuovo umanesimo di cui parla l’enciclica non è chiuso, difensivo, confessionale in senso stretto. È un umanesimo largo. Sa che la dignità dell’uomo è una verità troppo grande per essere custodita da una sola tradizione. Ha bisogno della teologia e del diritto, della filosofia e dell’economia, dell’arte e della politica, della tecnica e della coscienza.

Restare umani

Alla fine, tutto converge in una formula semplice e terribile: restare umani.

Sembra poco. È moltissimo.

Restare umani significa non lasciare che la tecnica diventi criterio assoluto. Significa non accettare che la persona sia trattata come dato, ingranaggio, merce, rischio, bersaglio, profilo. Significa non consegnare la libertà alla comodità, la verità alla manipolazione, la pace alla potenza, il lavoro all’automazione cieca, la giustizia alla statistica.

Significa anche riconoscere che l’intelligenza artificiale non è il nostro destino. È una nostra creazione. E proprio per questo deve rimanere sotto la responsabilità dell’uomo.

Il grande pericolo del nostro tempo non è che le macchine diventino umane. È che gli uomini accettino di diventare macchine: efficienti, calcolabili, prevedibili, sorvegliabili, ottimizzati, ma sempre meno liberi.

L’enciclica di Leone XIV, le riflessioni della Banca d’Italia, il dibattito giuridico sulla responsabilità civile, le nuove regole europee e nazionali sull’AI sembrano muoversi, ciascuno nel proprio linguaggio, verso lo stesso crocevia: l’innovazione non basta. Serve una civiltà dell’innovazione.

La domanda non è se useremo l’intelligenza artificiale. La useremo. La stiamo già usando. La domanda è se sapremo abitarla senza esserne abitati. Se sapremo governarla senza esserne governati. Se sapremo renderla strumento di giustizia e non di dominio.

Perché il futuro non sarà deciso soltanto dalla potenza degli algoritmi, ma dalla qualità morale delle mani che li guideranno.

E forse è proprio qui che si gioca la partita più importante: non costruire macchine sempre più simili all’uomo, ma impedire che l’uomo diventi sempre più simile alle sue macchine.