Luciano Floridi "La IA serve, ma va governata con attenzione"
Il filosofo vede le enormi potenzialità dell’IA, ma condivide appieno la necessità di governarla con attenzione. L’appello di Leone XIV: «È una tecnologia che ridisegna l’ambiente in cui agiamo e che, a sua volta, ci influenza».
Una consonanza dal versante accademico che conferma la bontà e l’urgenza delle riflessioni della Chiesa sull’intelligenza artificiale. Luciano Floridi, romano, 61 anni, è tra i massimi studiosi di etica dell’IA, nonché fondatore della filosofia dell’informazione: ha cattedra a Yale e a Bologna dopo molti anni a Oxford; imprescindibile il suo volume “Etica dell’intelligenza artificiale” (Cortina editore). Oggi legge la Magnifica humanitas con “Avvenire”, per dire che sì, l’IA è uno strumento straordinario, ma va governato con attenzione. E che, se saremo inerti, il futuro non sarà necessariamente luminoso.
Professor Floridi, l’enciclica muove dall’idea che la tecnologia non sia neutrale, che non basti cercare di usarla bene invece che male. Quali caratteristiche strutturali ha l’intelligenza artificiale cui dobbiamo fare particolare attenzione?
Un martello serve a piantare chiodi e, anche nelle mani sbagliate, usato come arma, resta un martello che non cambia chi lo usa. L’IA non funziona così. È una tecnologia che ridisegna l’ambiente in cui agiamo e che, a sua volta, ci influenza. Per questo la neutralità è un’illusione: è meglio parlare di una duplice carica, non della sua assenza. E nel caso dell’IA, questa carica è enorme. Per le caratteristiche, ne sottolineerei almeno tre. L’accessibilità: sono strumenti sempre più potenti e facili da usare e sempre meno costosi. La dimensione: gli stessi sistemi interagiscono con milioni di persone contemporaneamente e senza sosta, in modo pervasivo e dettagliato, e ciò che, individualmente, può essere innocuo, su scala aggregata diventa una forza trascinante. Infine, l’automazione: la produzione di contenuti, la gestione di processi, decisioni, opzioni e scenari, sono facilmente delegabili con successo all’IA. Tutto questo può portare all’erosione del giudizio su che cosa fare e della responsabilità su che cosa si è fatto, e credo che qui stia il punto etico dell’enciclica. Una società che cede il proprio ruolo guida è asservita a chi controlla la tecnologia in questione.
L’IA, nell’accorata diagnosi di Leone XIV, sembra spingere sempre più verso l’efficienza, la rapidità, la competizione, riducendo l’accettazione sociale del limite e della fragilità. Tante persone vulnerabili rischiano di finire ai margini. Come si può rispondere a questa preoccupazione?
La diagnosi è esatta e l’ho vista all’opera anche nella sanità, che è un banco di prova tra i più rischiosi. I sistemi di IA tendono a ottimizzare ciò che è misurabile e a scartare ciò che non lo è, come il tempo dell’ascolto, la pazienza con un anziano confuso, o la cura di chi non guarirà. Una società che adotta acriticamente questi strumenti finisce per assomigliarvi. Ho parlato altrove di eclissi dell’analogico: ci fermiamo agli aspetti digitali, cioè al modello, finendo per ignorare il sistema che stiamo modellando, sia una paziente, uno studente o un’intera città. La risposta non è vietare o cercare di frenare la tecnologia, ma cambiare la domanda che le rivolgiamo. Non «come faccio la stessa cosa più in fretta?», ma «che cosa dovrei fare in più o meglio, ora che ho tempo?». L’IA può liberare ore di lavoro burocratico in un ospedale, ma quelle ore vanno restituite ai pazienti, non sottratte alla pianta organica, come invece accade. Oggi l’IA serve ad assumere un infermiere o una dottoressa in meno. Tradurre il guadagno di efficienza in cura, e non in taglio, è una scelta politica, non un automatismo del mercato. La fragilità dovrebbe trarre vantaggio dall’IA, non esserne vittima. Ma temo che le cose andranno diversamente, sta già accadendo.
Leone insiste sui rischi di disinformazione sistematica a causa di alcuni nuovi strumenti di IA generativa con conseguenze per la stabilità delle democrazie. Era anche il primo richiamo di un intellettuale laico come Daniel Dennett. C’è un modo per mitigare questo pericolo?
Wittgenstein lo aveva intuito molto tempo fa: chi imita un linguaggio non lo possiede, e una macchina che produce frasi grammaticalmente perfette non sta dicendo nulla, sta solo calcolando. Vedo anche autori di libri pop che confondono la gestione impeccabile del significato di «dolore» con la comprensione del dolore. Per semplificare, è la stessa gente che confonde l’indefinibilità dell’indefinibile con quella di «indefinibile». Non sono giochi di parole ma fallacie logiche gravi e fuorvianti. Il problema è che le stesse fonti presentano questi sistemi come se fossero intelligenze aliene o sovrumane che votano, persuadono, giudicano, fanno interviste e così via. Una disinformazione che avvelena il dibattito pubblico mentre la convivenza democratica si basa anche sulla distinzione fra ciò che è autentico e ciò che è simulato. Tutto questo si potrebbe mitigare, e in parte prevenire. Sul piano tecnico, sappiamo farlo con la marcatura obbligatoria dei contenuti sintetici e con sistemi di verifica della provenienza, ma manca la volontà di imporlo. Sul piano normativo, con sanzioni rapide e pesanti per chi diffonde deepfake in particolare in contesti elettorali, sanitari e giudiziari. Anche qui è abbastanza facile, ma in Italia un decreto-legge in questo senso è stato recentemente bocciato, quando avrebbe dovuto passare con il consenso di tutti. Sul piano culturale, e qui sta la maggiore fatica, restituendo alle varie fonti educative – inclusa, ma non solo, la scuola – il compito di insegnare a capire. Una democrazia analfabeta non si difende a lungo: prima o poi qualcuno se ne approfitta.
Nella Magnifica humanitas si lamenta la concentrazione del controllo sull’AI in mani private, con il prevalere di logiche di profitto e potere, senza considerazione degli effetti meno positivi della rivoluzione digitale, a partire dallo sfruttamento di lavoratori e ambiente fino alle prospettive di disoccupazione di massa. Questa tendenza è inevitabile? Può essere invertita?
Inevitabile, no. Difficile da invertire, molto. Oggi pochissime aziende detengono il calcolo, i dati, i modelli, i fondi necessari, e quindi il futuro. Non è solo il mercato che ha prodotto questa concentrazione, sono soprattutto le scelte politiche, o meglio la loro assenza, a renderla possibile, come è già avvenuto per il Web. E ciò che la politica ha permesso, la politica può correggere, ma si continua a rimandare e a non voler fare i conti con il fatto che il digitale, IA inclusa, è la spina dorsale della società del ventunesimo secolo, l’infrastruttura che non deve essere in poche mani private. Le democrazie liberali europee hanno la possibilità di agire diversamente. È frustrante, perché si potrebbe fare, ma non si fa. L’Europa ha le risorse per rendersi indipendente, se volesse. Infrastrutture di calcolo pubbliche, come Leonardo a Bologna, dati di alta qualità, condivisi su basi legali ed etiche, per esempio come prevede il regolamento sullo spazio europeo dei dati sanitari, una regolazione che non insegua ma indirizzi l’innovazione, competenze tecniche, i fondi per usarle. Sul lavoro, la disoccupazione di massa è solo uno scenario: dipende da come ridistribuiamo i profitti e i rischi. Se restano agli azionisti, avremo società più diseguali, ma se finanziano la formazione, la riduzione dell’orario di lavoro e i redditi di transizione, avremo società migliori. È una scelta che in Europa, dove la possiamo ancora cambiare, stiamo sbagliando ogni giorno.
Il Papa chiede se gli attori principali del mondo dell’IA si interrogano sulla meta che vogliono raggiungere. Hanno un obiettivo per quello che stanno costruendo o perseguono l’innovazione senza un quadro spirituale, etico e politico, come si dice nell’enciclica?
Mi sono trovato allo stesso tavolo con molti di loro, e la risposta onesta è che dipende dal contesto in cui glielo si chiede. Operativamente, hanno obiettivi precisissimi, trimestre per trimestre. Culturalmente, alla luce della destinazione storica e morale dell’impresa, prevale un mix di entusiasmo quasi fantascientifico e di vaghezza programmatica. «Costruiamo un’IA per l’umanità» è uno slogan vuoto, e tutto ciò che resta alla fine di troppe chiacchiere inutili. Il vuoto è proprio quello che il Papa indica: manca ciò che chiamo un progetto umano per il ventunesimo secolo. La tecnologia non è regolamentata da chi la sviluppa. L’elettricità, il nucleare, gli antibiotici, i vaccini, la motorizzazione, hanno richiesto politica, diritto, ed etica pubblica. Vale anche per l’IA. Gli ingegneri costruiscono la tecnologia, ma una tecnologia non si governa con la sola ingegneria. Per questo l’ampliamento dell’orizzonte spetta alle istituzioni, alle Chiese, alle università, alla società civile e, soprattutto, alla politica.
Nel testo si parla delle tendenze transumaniste e postumaniste, opponendo la raccomandazione di conservare l’umano nell’era digitale. Come si può declinare a livello etico e pratico?
Per molti versi, il transumanesimo è solo l’ultima espressione di una vecchia eresia gnostica: la convinzione che il corpo sia un errore da correggere e la finitezza una malattia da curare. Nel caso migliore è un’illusione ingenua; nel caso peggiore, è un progetto eugenetico travestito da liberazione. Ma l’umano non è un difetto di fabbrica da superare, è la condizione che dà senso alle nostre scelte. Siamo una bellissima eccezione di natura, casuale per alcuni, voluta per altri. Questa eccezionalità va apprezzata e sostenuta, non sradicata. Dobbiamo progettare tecnologie che sostengano e potenzino le persone nelle loro scelte e nei loro progetti, anche sociali, e che possano aiutarle o sostituirle nei compiti gravosi, per liberarle e offrire loro opportunità migliori. Difendere gli spazi del non-funzionale – non dell’inutile, ma dell’unicamente rilevante – come la riflessione, il divertimento, la conversazione, o la lentezza del silenzio. Una società che ottimizza ogni cosa perde tutto questo e quindi la sua umanità. È una vecchia lezione monastica, ed è curioso che oggi tocchi a un filosofo agnostico come me ricordarla. Leggo così il vecchio motto festina lente: affrettarsi per poter rallentare. Come dico ai miei studenti, bisogna essere il più efficienti possibile per avere tempo di guardare fuori dalla finestra.
Le armi a guida autonome spaventano perché sembra che le decisioni di morte saranno prese dalle macchine senza più supervisione né responsabilità umana. L’IA è già entrata nelle guerre in corso. Vede un’ulteriore deriva verso conflitti guidati dagli algoritmi?
La vedo. E la temo. In Ucraina e a Gaza, per parlare solo di conflitti vicini a noi, i sistemi di selezione dei bersagli assistiti dall’IA sono impiegati da tempo. La cronaca ha mostrato che cosa accade quando l’operatore umano si limita a premere un pulsante su opzioni generate dall’IA: la supervisione diventa un ok e l’ok una mera formalità. La responsabilità, che è il cuore del diritto in contesti bellici, dal processo di Norimberga in poi, si dissolve in una catena di automatismi. Per questo servono almeno due cose. Giuridicamente, dobbiamo arrivare il prima possibile a un trattato internazionale che vieti le armi letali pienamente autonome, sul modello delle convenzioni sulle armi chimiche, e che renda penalmente imputabile chi usa sistemi opachi, ricostruendo la catena di responsabilità. Culturalmente, dobbiamo ricordare che decidere di uccidere può essere inevitabile, ma resta una decisione assunta da un soggetto che ne è responsabile. Perciò la deriva, che è reale, è anche molto pericolosa e va evitata.
di Andrea Lavazza
Fonte: Avvenire
