L’artificio della tecnologia intelligente: Simone Natale e le interazioni orientate

La scena primaria datata 1950 nella storia dell’intelligenza artificiale vede Alan Turing pubblicare su «Mind» un articolo in cui teorizza il suo «gioco dell’imitazione». Come è noto, il test risultava superato qualora le risposte di una macchina a un soggetto interrogante fossero indistinguibili da quelle elaborate da una mente umana.

Ora Simone Natale nel suo  Macchine ingannevoli  (Einaudi, pp. 224, € 21, 00), ci invita a spostare l’angolo da cui guardiamo il problema: la posta in gioco del test non è, infatti, ontologica, e il punto non è se le macchine effettivamente pensino, al pari e meglio di noi.

Al cuore dello scenario ipotizzato da Turing si nasconde altro, ossia l’interazione fra uomo e computer, più precisamente la disponibilità dell’utente a riconoscere il comportamento della macchina come intelligente, dunque a farsi ingannare. Lo scarto è decisivo. Tanto più che quello di Turing non fu mai, nelle intenzioni e nel nome, un test in senso proprio, bensì appunto un gioco – più che dell’imitazione, della comunicazione.

«Lo sviluppo dell’IA fino a oggi», quindi, «non è andato tanto nella direzione dell’emulazione o del superamento dell’intelligenza umana, quanto verso lo sviluppo di sistemi in grado di convincere noi umani che le macchine sono intelligenti». Ancor più radicalmente, Natale afferma che, in realtà, l’IA in quanto tale «non esiste»: «ci sono solo interazioni socialmente orientate che portano ad attribuire intelligenza alle macchine».

Le traiettorie che si dipanano da questo nucleo sono innumerevoli, e connettono, in una mappa vastissima, tecnologie disparate: i social bot e il gaming, Siri e Deep Blue, robot domestici e deepfake. Ma si può anche procedere a ritroso e ricostruire l’archeologia della storia precede l’analogia fra cervello e computer. Risalire all’anatra meccanica di Vaucanson o al Turco scacchista di Kempelen implica il  seguire piste genealogiche corrette ma parziali.

Per la sua capacità di ingannare, l’IA sarebbe semmai l’erede diretta di una lunga stirpe di medium pre-digitali, dal Kaiserpanorama ottocentesco al cinema, dal grammofono al telefono, che devono il loro successo ad approfondite conoscenze di fisiologia e psicologia.

Il filo d’Arianna che lega i giochi di specchi del passato alle righe di codice del presente è sempre lo stesso: «la nostra vulnerabilità all’inganno», la propensione a proiettare agency sul mondo esterno.

Cosa ci dice tutto questo di noi, dunque, se non che, prima che mentitori, siamo creature che vogliono essere incantate, e che stanno edificando un’intera civiltà delle macchine su tale differenza specifica?

La storia dei media dispiega il tentativo ricorrente di «addomesticare» questo lato perturbante della natura umana, che fa della sensibilità all’illusione, al «come se», un limite strutturale e una risorsa creativa insieme. Lo sanno bene gli studiosi dell’interaction design che progettano i dispositivi di cui ci circondiamo sulla base di forme di inganno «banale», ossia funzionale alla comunicazione.

Ma proprio la facilità con cui integriamo gli strumenti digitali nell’esperienza quotidiana, spiega Natale, rischia di suscitare nello spazio ben regolato della finzione, a cui aderiamo consapevolmente, un «senso di narcosi» che ci rende insensibili al modo in cui l’IA, con il suo sistema di filtri e mediazioni, condiziona l’accesso alle informazioni, rinforza stereotipi e altera le dinamiche sociali. C’è infatti un’«opacità» intrinseca alle tecnologie informatiche, relativa allo scarto fra il programma e i suoi effetti su di noi, che interagisce in modo imprevedibile, ma condizionante, con l’opacità propria della mente, favorendo inganni questa volta intenzionali.

Il salto quantico da compiere nel concettualizzare l’IA, e nel prefigurarne le applicazioni possibili nel mondo della vita, consiste allora nell’adottare uno sguardo che non ne consideri solo le possibilità operative o le implicazioni meramente teoriche, ma anche il «dover essere»: non possiamo valutare una tecnologia solo per quello che può fare, ma anche per quello che rischia di fare, ed è meglio che non faccia. Stabilire un perimetro di questo tipo significa compiere uno sforzo di comprensione e immaginazione insieme: dobbiamo capire a fondo la natura dello strumento che maneggiamo, la sua logica interna di funzionamento e, insieme, provare a svolgere in tutta la sua ampiezza il periplo di ripercussioni etiche, ideologiche, sociali ed economiche che tale logica custodisce. Un esercizio di scetticismo, insomma.

Libri come quello di Simone Natale non possono sciogliere il nodo pratico – compito che spetterebbe alla politica. Riportando questioni metafisiche e ontologiche sul piano di una pragmatica della comunicazione, però, dissipano l’inquietudine esistenziale e futurologica con cui guardiamo all’IA e ci ricordano che essa è lo specchio, ormai onnipresente, della nostra psicologia e della nostra cultura.

Il mito di Narciso, scomodato dal vecchio McLuhan per simboleggiare il rapporto dell’uomo con i media, conserva ancora la sua efficacia. Occorre esserne consapevoli.