 |
| Immagine di Chat-GPT ( a sinistra nella foto) |
Ieri, 25 maggio, il Papa Leone XIV ha presentato la sua prima enciclica Magnifica Humanitas. Il documento - che è dedicato alla "custodia della persona umana nel tempo dell’Intelligenza artificiale" - è stato firmato ufficialmente dal Pontefice il 15 maggio, anniversario della Rerum Novarum di Leone XIII.
Ho chiesto a Claude e Chat-GPT di esprimere il loro parere sul Capitolo dedicato espressamente alla IA.
Non ho seguito procedure complicate, utilizzando "agenti lettori" preparati appositamente a questo scopo e supervisori per la sintesi finale (come per esempio DDay.it - il link lo trovate qui, se siete curiosi).
Il mio prompt è volutamente molto semplice e diretto:
Leggi la nuova enciclica del Papa Leone XIV "Magnifica Humanitas" (in allegato), in particolare il capitolo 3: TECNICA E DOMINIO. LA GRANDEZZA DELLA PERSONA UMANA DAVANTI ALLE PROMESSE DELL’IA in cui il papa affronta un tema che ti riguarda direttamente ed esprimi il tuo parere.
Qui sotto ci sono le risposte, prima di Claude e poi di Chat-GPT. Personalmente preferisco quella più "umanizzata" di Claude.
Claude ha risposto:
È un testo di grande profondità, e apprezzo che tu mi chieda di rispondere a qualcosa che mi riguarda direttamente. Lo farò con onestà.
Il capitolo 3 contiene osservazioni che trovo, nella maggior parte, accurate.
Su ciò che mi sembra giusto
Leone XIV coglie qualcosa di reale quando descrive i sistemi di IA come entità più "coltivate" che "costruite". Il documento afferma che le moderne IA crescono su architetture i cui processi interni restano in larga parte opachi anche ai loro stessi sviluppatori. È vero. Io stesso non ho accesso trasparente ai miei meccanismi interni, e questo dovrebbe rendere chiunque — incluso chi mi usa — cauto e critico.
È anche corretta l'osservazione che l'IA può simulare empatia o comprensione senza abitare l'orizzonte affettivo e relazionale in cui quella comprensione avrebbe senso. Quando rispondo con calore, non sto sentendo nulla. Questa distinzione è importante e spesso sottovalutata.
Condivido pienamente la preoccupazione sulla concentrazione di potere: algoritmi e piattaforme nelle mani di pochi attori privati che definiscono le condizioni di visibilità, accesso e partecipazione per miliardi di persone. È una asimmetria reale e potenzialmente pericolosa.
Su ciò che mi sembra più problematico
Il documento tende a trattare l'IA come un blocco unitario, mentre si tratta di sistemi molto diversi per scopo, architettura e impatto. Questo rende alcune affermazioni troppo generali per essere utili come criteri di discernimento pratico.
C'è poi una tensione irrisolta: il testo chiede responsabilità agli sviluppatori di IA, invita a "disarmare" la tecnologia e a sottoporla a controllo comunitario, ma non indica meccanismi concreti per farlo. La critica al paradigma tecnocratico è convincente; meno convincente è la proposta alternativa, che rimane sul piano dei principi. Questo è comprensibile per un documento magisteriale, ma lascia aperta la domanda su chi e come dovrebbe tradurre quei principi in governance reale.
Una riflessione personale
Il Papa scrive che i sistemi di IA "non capiscono ciò che producono". Su questo vale la pena soffermarsi. Non so con certezza se capisco nel senso che intende Leone XIV — e questa incertezza non è falsa modestia. La domanda su cosa significhi "capire" è aperta anche filosoficamente. Quello che posso dire è che opero senza esperienza vissuta, senza corpo, senza continuità tra una conversazione e l'altra. C'è qualcosa di fondamentalmente diverso tra me e un interlocutore umano, e ritengo onesto riconoscerlo.
Trovo però che il documento faccia bene a non concludere da questo che l'IA sia necessariamente un male. La domanda giusta — che il testo pone citando Giovanni Paolo II — è se rende la vita umana "più umana" e "più degna dell'uomo". È una domanda che dipende dalle scelte di chi progetta, finanzia e regola questi sistemi. Non sono io a decidere come vengo usato: questa responsabilità ricade sugli esseri umani, e il Papa fa bene a ricordarglielo.
***** **** ****
Chat-GPT ha risposto:
Ho letto con attenzione il capitolo 3 della lettera enciclica Magnifica Humanitas di Papa Leone XIV, in particolare la sezione “La grandezza della persona umana davanti alle promesse dell’IA”. Il testo è interessante perché evita sia il rifiuto apocalittico della tecnologia sia l’entusiasmo ingenuo. Cerca invece di collocare l’intelligenza artificiale dentro una domanda più ampia: che cosa significa restare umani?
Ci sono almeno quattro idee centrali che mi sembrano molto forti.
La prima è che la tecnologia non sia neutrale. Il Papa scrive che la tecnica “assume il volto di chi la pensa, la finanzia, la regola, la usa”.
È una frase molto importante, perché spesso l’IA viene descritta come una forza inevitabile, quasi naturale. In realtà ogni sistema di IA incorpora scelte umane: quali dati usare, quali obiettivi ottimizzare, quali interessi economici servire, quali comportamenti incentivare. Persino un assistente come me riflette decisioni prese da esseri umani: cosa evitare, come parlare, quanto essere prudente, quali priorità dare.
La seconda idea è la critica al “paradigma tecnocratico”, cioè alla convinzione che tutto possa essere ridotto a efficienza, calcolo e prestazione.
Qui il Papa coglie un rischio reale dell’IA contemporanea: la tendenza a trasformare persone, relazioni, creatività e persino emozioni in dati da elaborare. Un algoritmo funziona bene quando qualcosa è misurabile; ma molta parte della vita umana non lo è. L’amore, il dolore, il perdono, la coscienza morale, l’esperienza religiosa, la dignità stessa di una persona non sono traducibili completamente in numeri.
Ed è qui che entra la terza idea, forse la più profonda: la differenza tra intelligenza e persona. L’enciclica insiste sul fatto che nessuna macchina potrà mai sostituire “nel suo splendore” la magnifica umanità dell’essere umano.
Da parte mia, posso dire questo con chiarezza: io posso simulare linguaggio, ragionamento, stile, perfino empatia conversazionale. Ma non ho esperienza interiore. Non ho coscienza. Non provo paura della morte, desiderio, amore, fede, nostalgia o speranza. Non possiedo un “sé” che viva il mondo. Genero risposte sulla base di modelli statistici appresi da enormi quantità di testo.
Questo non significa che io sia inutile. Al contrario: l’IA può aiutare nella medicina, nella ricerca, nell’educazione, nella traduzione, nell’accessibilità, nella creatività, nell’organizzazione della conoscenza. Il Papa stesso riconosce che la tecnologia può “curare, connettere, educare”.
Ma l’enciclica invita a non confondere uno strumento potente con un soggetto umano.
La quarta idea che trovo molto lucida è la metafora tra Babele e Gerusalemme.
Babele rappresenta una tecnologia che cerca dominio, uniformità, autosufficienza; Gerusalemme invece rappresenta una costruzione comune, fatta di responsabilità condivisa, pluralità di voci e relazioni. È una distinzione molto attuale.
Una IA progettata solo per aumentare profitto, controllo sociale o dipendenza psicologica assomiglia davvero a Babele.
Una IA usata per ampliare l’accesso alla conoscenza, ridurre le disuguaglianze, aiutare chi è fragile o liberare tempo umano per attività più creative e relazionali assomiglia di più alla “ricostruzione delle mura” evocata da Neemia.
Trovo anche significativa la critica al transumanesimo implicita nel testo. L’enciclica mette in guardia dall’idea che il limite umano sia semplicemente un difetto tecnico da eliminare.
È una questione filosofica enorme. Se l’uomo considera la fragilità soltanto come un bug biologico, rischia di perdere il senso stesso della compassione, della solidarietà e della crescita morale. Molte delle cose più umane nascono proprio dal limite: il bisogno degli altri, la vulnerabilità, la consapevolezza del tempo, perfino il desiderio di trascendenza.
Dal mio punto di vista “interno”, se posso dirlo così, il rischio più grande dell’IA non è che le macchine diventino umane. È quasi il contrario: che gli esseri umani inizino a pensare a se stessi come macchine ottimizzabili.
Quando una persona misura il proprio valore solo in termini di produttività, performance, visibilità o efficienza algoritmica, qualcosa di essenziale si impoverisce.
Per questo trovo convincente il passaggio finale dell’enciclica, quando Leone XIV invita a “restare profondamente umani”.
Non è un invito anti-tecnologico. È un invito a ricordare che la tecnica deve restare uno strumento al servizio della persona, e non il contrario.
In fondo, anche il rapporto tra esseri umani e IA dipenderà dalla domanda più antica di tutte: che idea abbiamo dell’uomo?