Il libro Etica dell’intelligenza artificiale di Luciano Floridi (Raffaello Cortina, pp. 384, euro 26) ambisce con successo a una sistemazione della controversa e complessa questione dell’etica del digitale, con particolare riguardo alla governance dell’Intelligenza Artificiale (IA). Le premesse del lavoro sono il progressivo divorzio tra capacità di agire delle macchine e intelligenza, e la trasformazione dell’ambiente in una struttura informativa adatta all’interazione con le macchine: l’infosfera.
La separazione tra agire e intelligenza si riferisce alla mancanza di intenzionalità e consapevolezza, quindi, l’attore artificiale non può avere la responsabilità degli effetti dell’azione. Un terzo elemento portante del volume è l’interpretazione del digitale come tecnologia per tagliare e incollare i concetti che hanno contraddistinto la modernità. Incolla identità e i dati personali, separa posizione e presenza a favore di una presenza a distanza; inoltre, separa legge e territorialità, per la capacità di agire a distanza e riorganizza la produzione di contenuti digitali senza distinguere tra fruitori e produttori.

IL DIGITALE CONDURREBBE a un processo di rappresentazione capace di riorganizzare il suo oggetto, o per dirla con l’autore di re-ontologizzare e re-epistemologizzare l’ambiente con il quale si ripromette di interagire. È da questa caratteristica che parte la seconda premessa relativa all’infosfera, ovvero alla capacità di riavvolgere il mondo sulla base delle prescrizioni digitali su come debba funzionare, al fine di esercitarvi un controllo. Si tratta, quindi, non tanto di interpretare l’ambiente, ma di riscriverne pratiche e confini, adattandoli al sistema tecnico.
Anche le persone sono esposte a questo «riavvolgimento», o in veste di turchi meccanici che lo informano etichettando correttamente immagini, parole e oggetti a favore della riorganizzazione algoritmica del mondo, o quando si fanno influenzare dalle previsioni dei sistemi di raccomandazione loro rivolte.
Ogni nuovo strumento tecnologico tende a riorganizzare il mondo secondo le proprie norme e prescrive le regole che gli permettono di funzionare. Non ha bisogno, né cerca di comprendere e adeguarsi al contesto nel quale si trova ad agire. Le società moderne hanno più volte sperimentato la transizione infrastrutturale necessaria, per esempio, alle autovetture e al sistema industriale, con annesse esternalità di inquinamento. Si tratta di complessi interventi che hanno re-ingegnerizzato gli ambienti in modi nuovi e complessi.
Nell’IA la questione delicata dipende dall’attore che si propone di sostituire: la mente umana. I dati usati per riprogettare gli ambienti si riferiscono alla loro rappresentazione, un aspetto che finora era in capo all’intelligenza delle persone. Questo progetto riguarda la conoscenza e consiste in una sua commodificazione sulla base del principio che Floridi individua come taglia e incolla della modernità, dandolo in parte già come inevitabile. Siamo in una fase di transizione circa come è costituito il processo di comprensione del mondo promosso dal digitale. L’oggetto della contesa, non ancora conclusa, riguarda chi ha diritto di controllare le tecniche di immaginazione e le regole di interpretazione dell’ambiente che ci circonda, incluse le relazioni sociali. Delimitare la delega circa quale soggettività (umana, disciplinare e artificiale) abbia il potere di istituire i metodi per dare senso al mondo, è il terreno dello scontro non ancora concluso.

SAPPIAMO DALLA STORIA che le tecnologie della memorizzazione e della rappresentazione della conoscenza promuovono un terremoto sulle autorità deputate a stabilire i criteri di verità, e la legittimità delle nostre credenze sul mondo. Chi sono i detentori del sapere che saranno destituiti dal loro ruolo qualora questo riavvolgimento dell’ambiente, di cui parla Floridi, dovesse compiersi completamente? Anche noi siamo oggetto potenziale di questa re-ingerizzazione in corso. La tecnologia della stampa è stata fatale per il ruolo della chiesa nel governo del sapere. Quale autorità sta minando il digitale? Forse le strutture stesse della modernità, comprese le conquiste dell’illuminismo, che includono anche le libertà individuali, il concetto di autonomia personale, i diritti sociali, la solidarietà, l’equità etc…

PER TUTELARLE, Floridi sintetizza e analizza i diversi principi etici ai quali dovrebbe ispirarsi il design e quindi il governo di queste tecnologie della programmazione del sapere. I principi sono condivisi: beneficenza, non maleficenza, autonomia dell’umano nel concedere la delega, giustizia, esplicabilità. Ma come metterli a terra? Sono tante, infatti, le spinte per annacquare idee e strategie necessarie a trasformarli in pratiche condivise. Le lobby tecnologiche hanno ingenti risorse economiche, strategiche e cognitive. L’etica, o meglio, il design e la governance dei metodi per costruire i sistemi intelligenti non sono un optional che si può ignorare o posticipare, sottolinea molto opportunamente Floridi. È necessario definire preventivamente principi regolativi e prassi condivise, senza aspettare che i prodotti tecnologi siano immessi sul mercato.

UN CAPITOLO estremamente interessante è dedicato alla mappatura dell’etica degli algoritmi, strumenti strategici del funzionamento dell’IA. Vi si spiega con chiarezza che quando i sistemi di supporto alla presa di decisione riguardano scelte relative alle persone – per esempio, il loro diritto a un equo trattamento da parte delle istituzioni pubbliche e private – è impossibile costruire un metodo che garantisca l’equità per default. L’avvolgimento delle condizioni di possibilità di una giustizia equa e paritaria è irrealizzabile per ragioni sia epistemiche sia regolatorie, relative alla difficoltà di raccogliere dati sicuri per rappresentare il problema e ai rischi degli esiti ingiusti legati alle diverse condizioni di partenza delle persone.
La giustizia, infatti, non è frutto di un’analisi statistica, riguarda il diritto di ciascuno di essere trattato con imparzialità nella propria singolarità. L’intelligenza artificiale funziona attraverso la definizione di criteri di ottimizzazione, ma senza una formulazione formale della nozione di giustizia è impossibile prendere decisioni automatizzate che garantiscano razionalmente l’applicazione di un principio astratto, non completamente esplicitato.

IL LIBRO È UNO STRUMENTO importante, una sintesi complessa e ricca di particolari sull’etica del digitale. Sentiremmo anche il bisogno di una discussione sulla tecnologia dell’IA come sistema di potere, geopoliticamente collocato. Sappiamo, infatti, che la maggior parte degli sviluppatori sono uomini che appartengono a un’élite socioeconomica, con una ridotta capacità di inclusione verso le soggettività differenti e plurali. Tale condizione ha impatto sui criteri, i pregiudizi e gli stereotipi che governano questa nuova narrazione o nuovo impacchettamento del nostro mondo, rappresentato come un grande gioco elettronico, di cui gli sviluppatori sono i soli ad avere le chiavi.
Floridi ci ha promesso un secondo volume sulla politica. Lo attendiamo con trepidazione. Lo avremmo voluto leggere prima ancora di quello sull’etica, perché ne costituisce la condizione di possibilità.