Il dolore degli umani raccontato dai robot

Digital humanities è l’espressione chiave usata per aprire le porte blindate di alcune discipline del sapere umanistico e scientifico con l’obiettivo dichiarato di scardinare la loro separazione in vista di un rinnovato incontro, dopo il divorzio più o meno consensuale consumato con l’affermarsi di una società dominata dalla tecnoscienza. I digital humanities sono tuttavia diventati molto più che la sollecitazione a un generico «tornare a parlarsi». Sono cioè un consolidato ambito di ricerca attorno alla digitalizzazione della vita umana, il cosiddetto «computazionismo»: l’esercizio del potere e della democrazia nel capitalismo contemporaneo.
Tutto ciò è evidente fuori dai confini del nostro Paese, dove i digital humanities sono purtroppo ancora espressione del lavoro e dell’impegno «volontario» di docenti e ricercatori che attivano progetti e seminari quasi in clandestinità rispetto alla vita universitaria. Negli Stati Uniti si assiste invece ad un’ampia articolazione tematica che spazia dallo studio del software all’antropocene fino alla statuto teorico dell’intelligenza artificiale. Mentre in Germania tali studi sono al centro di una fiorente riflessione che verte sulla cosiddetta industria 4.0, sul rischio di un uso incontrollato dell’intelligenza artificiale rispetto al comportamento degli umani, sul rapporto tra democrazia rappresentativa e democrazia diretta.

È in questo contesto che ha preso forma il volume Umanesimo digitale (Franco Angeli, pp. 190, euro 18) e il sodalizio intellettuale tra Julian Nida-Rümelin e Nathalie Weindenfeld. Il primo è un filosofo chiamato agli inizi del nuovo millennio dall’allora leader socialdemocratico Gerhard Schröder a guidare il ministero della Cultura. Una parentesi dopo la quale Rümelin ha pubblicato Democrazia e verità, Per un’economia umana, Pensare oltre i confini (tutti per Franco Angeli). Nathalie Weidenfeld, invece, è una docente di cinematografia alla Freie Universität di Berlino. Due personalità intellettuali che in questo libro provano a fondersi nella prospettiva dell’elaborazione di un’«etica per l’epoca dell’intelligenza artificiale», come recita il sottotitolo. Così, se il primo si confronta con la tematica dei diritti delle macchine, Weidenfeld affronta la costruzione di un immaginario collettivo attorno alla pervasività delle macchine operata dal cinema, la fantascienza letteraria, le tante serie tv su futuri più o meno distopici. Non mancano riferimenti a temi più cogenti, come la disoccupazione di massa e l’aumento delle diseguaglianze sociali, all’interno tuttavia di una prospettiva che poco o nulla concede alla richieste di un’innovazione teorica attorno alle politiche sociali e del lavoro in una prospettiva critica del capitalismo.

Nel libro, i «digital humanities» sono presentati come una critica all’ideologia della Silicon Valley, arrivando a mettere sotto accusa la visione della vita, le concezioni delle relazioni sociali, perfino quelle affettive, frutto del cosiddetto computazionismo o calcolismo insito in quell’ideologia. Quali sono le caratteristiche della vostra concezione dell’umanesimo digitale?
NIDA-RÜMELIN: L’umanesimo digitale è basato su un’idea semplice, cioè che la condizione umana non ha come vettore privilegiato le sole tecnologie. Gli umani sono esseri senzienti con propri diritti, dignità, autonomia decisionale e deliberativa. Tali caratteristiche non riguardano invece le macchine. L’umanesimo digitale non rifiuta però la tecnologia. Afferma tuttavia che devono essere gli umani a esercitare il controllo sulla propria, provando altresì a immaginare soluzioni alle derive «calcoliste» che riducono gli umani a simulacri di macchine, quasi che questi ultimi funzionassero appunto come macchine.

Nel recente passato, c’è chi ha sostenuto che i robot fossero realtà, esseri ai quali estendere alcuni diritti civili e umani. Voi respingete questa ipotesi. Perché?
WEIDENFELD: Il tema dei diritti dei robot ha una lunga storia. Inizialmente si intreccia con le regole auree dei robot stilata dallo scrittore, tecnologo e filosofo Isaac Asimov. Le tre regole del loro funzionamento presupponevano implicitamente anche dei loro diritti. Più recentemente, l’argomento è stato articolato alla luce del possibile uso dell’intelligenza artificiale in alcuni ambiti. Le automobili senza guidatore rappresentano uno di questi casi; ma ce ne sono altri, come l’uso dei droni in alcune situazioni che esulano dalle guerre; oppure quando viene definita una terapia sanitaria da parte di un sistema esperto. Tutti casi che hanno visto manager e dirigenti di impresa ipotizzare l’estensione di alcuni diritti umani alle macchine. Da questo punto di vista, si pone un primo problema. Le macchine sono programmate per svolgere alcune funzioni, operazioni. Possono eseguirle «apparendo» intelligenti, ma alle base c’è sempre un fattore deterministico di input e output. Manca cioè la dimensione relazionale, riflessiva intorno alle ragioni di una scelta piuttosto di un’altra, che è caratteristica umana. Diventa difficile dunque parlare di diritti per chi funziona in base a logiche computazionali che rispondono a criteri di «sì» e «no», di 0 e 1. Le macchine fanno calcoli precisi, veloci e con pochissimi errori. Tutto ciò sembra aprire finestre su mondi migliori di quelli imperfetti creati dagli umani. Possiamo anche indugiare su questi elementi: velocità, precisione, accuratezza, financo una certa capacità estetica, come si può ricavare dalla fantascienza, che attorno alle macchine ha coltivato illusioni e filoni narrativi e cinematografici di grande successo. Possiamo inoltre dire che la fantascienza è stata l’ambasciatrice, se non il produttore attivo di un immaginario relativo alle macchine divenuto ormai dominante. Ci sono stati film, ad esempio, che in maniera melodrammatica hanno messo in scena il dolore di robot di fronte a situazioni di privazione dell’affetto e del loro ruolo di operai, o meglio di schiavi silenti e obbedienti. Penso a A.I. – Intelligenza artificiale di Spielberg; oppure al possibile incontro tra un robot e un poliziotto diffidente come avviene in Io Robot di Alex Proyas. Due film che per primi hanno equiparato i diritti degli umani a possibili e necessari diritti delle macchine. Ma quel che si cela dietro le storie messe in scena sul grande schermo, più che i diritti della macchine sono la sofferenza, l’oppressione, le condizioni di subalternità che caratterizzava in passato e caratterizza ancora oggi la vita di specifici umani: gli afroamericani, per quanto riguarda gli Stati Uniti, ma anche altre minoranze.
Possiamo dunque dire che l’ideologia della Silicon Valley avrebbe avuto qualche difficoltà in più a diffondersi così velocemente senza il supporto della fantascienza. Al contrario, i digital humanities svolgono un ruolo essenziale nel non fare proprie letture edificanti o melodrammatiche delle storie narrate, ma di coglierne la dimensione metaforica o metonimica. Spesso, infatti, si dice robot per non dire afroamericano. Perciò, si può affermare che l’intelligenza artificiale non possiede intenzionalità, emozioni, capacità di avere sensazioni. Nella visione computazionale si impone un’idea povera di intelligenza, ridotta a mera capacità di calcolo. Ma l’intelligenza è molto di più. E questo è evidente quando, appunto, si prendono in esame alternative, scelte, si delibera qualcosa.

In questo senso, sembrate stabilire una differenza tra intelligenza artificiale forte e intelligenza artificiale debole…
J. N-R: Per il filosofo John Searle l’intelligenza artificiale forte si poneva il problema di stabilire l’esistenza e le caratteristiche degli stati mentali del software, mentre l’intelligenza artificiale debole si occupava di simulazioni di stati mentali. Da questo punto di vista la differenza è notevole, ma che si comprende solo nel corso del tempo, cioè nel lavoro di ricerca.

Nel libro rifiutate le tesi sul lavoro ridotto a risorsa scarsa dall’innovazione tecnologica e del reddito di cittadinanza come politica di gestione di un mondo segnato dalla disoccupazione e dal lavoro intermittente. Pensate che se vengono cancellati posti di lavoro in un settore a causa delle macchina, altri compenseranno con la crescita dell’occupazione? Eppure, molte analisi dicono il contrario…
J.N-R: Al di là delle tante promesse o incubi evocati, la digitalizzazione non ha provocato un aumento della produttività, una riduzione radicale dei redditi e la tanto ventilata disoccupazione di massa. Con il reddito di cittadinanza c’è il rischio di un congelamento, un’istituzionalizzazione delle diseguaglianze attuali, che sono si cresciute, ma non sono immutabili. Perciò, meglio trovare altre strade per gestire gli effetti della digitalizzazione sulla società.