Éric Sadin, il racconto della realtà resiste agli algoritmi

Creare un altro immaginario della rivoluzione digitale in cui siamo immersi e sperimentare nuove forme di vita a partire dalla pluralità umana e dall’azione politica. È il messaggio del libro Critica della ragione artificiale. Una difesa dell’umanità (Luiss, pp. 207, euro 21 – recensito su queste pagine il 17 luglio) scritto dal filosofo Éric Sadin che abbiamo incontrato durante un ciclo di eventi organizzato dalla libreria francese Stendhal di Roma.

Perché, da almeno un biennio, e comunque dal caso Cambridge Analytica (l’azienda che ha sottratto i dati di 87 milioni di persone da Facebook per la campagna elettorale di Trump nel 2015), l’immagine pubblica del capitalismo digitale è cambiata?
Finalmente. Era ora che ci si rendesse conto che l’intelligenza artificiale non è un sistema naturalmente intelligente in grado di sostituire l’essere umano. Non è affatto naturale, è uno dei modi in cui può darsi la razionalità umana. Il suo obiettivo è amministrare l’esistente e orientare ogni movimento verso una transazione commerciale. Questo è il progetto di fondo dell’industria digitale.

In cosa consiste quella che lei definisce come la «rappresentazione siderante e coercitiva del mondo» creata dal capitalismo digitale?
Nella capacità di intervenire sull’esercizio della libertà nella vita comune. Siamo in un momento di cambiamento dello statuto della tecnologia. Non realizza più solo, come negli anni Cinquanta, lo stoccaggio, l’indicizzazione e la manipolazione dell’informazione. Aumenta le funzionalità, si sta specializzando, è esperta di tutto, realizza processi più veloci delle nostre capacità cerebrali al punto da renderli spesso incomprensibili.

Un esempio?
Waze, un’applicazione israeliana acquisita da Google, descrive in tempo reale il traffico e raccomanda di percorrere un percorso e non un altro. Più che sorvegliare, questo capitalismo mi sembra governare e indirizzare le nostre decisioni, soprattutto per soddisfare gli interessi privati. Si tratta di una svolta ingiuntiva della tecnica che dice come ci si deve comportare. È iniziata nel 2007 con lo smartphone. Da allora sono nate applicazioni che accompagnano la nostra vita attraverso gli algoritmi. Ad esempio, gli assistenti vocali come Siri o Alexa. Oggi non funzionano benissimo, ma rappresentano comunque forme di antropomorfizzazione dell’intelligenza artificiale che passa attraverso la voce e suggerisce nel modo più naturale, che naturale non è, come realizzare transazioni commerciali.

Nel libro descrive il potere quasi magico che l’automazione digitale esercita sull’essere umano. Perché risulta così attraente?
Esistono molte persone che, per lavoro, immaginano come rendere attraente questa tecnologia raccontandola come qualcosa che renderà il mondo più fluido, ecologico e sicuro. Dopo la Seconda guerra mondiale emerse l’ipotesi di affidare la gestione della società ad altri che non fossero gli esseri umani, considerati non solo fallibili, ma pericolosi per l’umanità a causa degli orrori di quella guerra. Günther Anders criticò la tecnoscienza, mossa da velleità demiurgiche, capace di distruggere il mondo con le bombe atomiche a Hiroshima e Nagasaki. L’idea della cibernetica formulata da Norbert Wiener nel 1948 fu il tentativo di evitare queste conseguenze potenzialmente nefaste. Cibernetica deriva dalla parola greca Kubernetes, pilota, che indica anche il governo dell’umano. Nasce da qui l’idea di un’automazione che migliora, razionalizza e ottimizza la vita.

Questa idea sarebbe ispirata a un’«inquietante passione a generare doppi artificiali di se stessi». Cosa significa?
Questa passione deriva dalla rappresentazione dell’essere umano come un soggetto capace di riprodurre il suo cervello espellendo le parti difettose e dando una potenza superiore alle macchine reputate essere migliori di lui. Il momento cibernetico della storia della tecnologia non partiva da una conoscenza scientifica del cervello. Era teorizzato da ingegneri che non conoscevano il suo funzionamento e si basava su postulati. Negli ultimi anni questo discorso è tornato anche grazie a nuove acquisizioni: l’algoritmo sarebbe la riproduzione del cervello a una velocità inconcepibile. Non siamo arrivati a tanto, è un processo avanzato di attribuzione di caratteristiche e qualità umane alle macchine dove la tecnologia è stata resa capace di prendere alcune decisioni.

Quali gli effetti sul lavoro?
Prendiamo la selezione dei candidati a un posto di lavoro attraverso algoritmi. I candidati dovrebbero interagire attraverso chatbox. Non è chiaro come la selezione avverrà, ma alla fine l’algoritmo dovrebbe dire qual è il candidato migliore. Viene diffuso da anni il panico per la sostituzione dei posti di lavoro con l’intelligenza artificiale. A mio avviso esiste un elemento molto più importante: l’applicazione dell’intelligenza artificiale al management, l’idea cioè che l’industria sia governabile attraverso i dati e in tempo reale. Questo significa che i lavoratori eseguono gesti come robot, mentre invece sono persone in carne ed ossa. Questo meccanismo elimina la contraddizione: come possono opporsi a un algoritmo e dire che sbaglia? Credo invece che questo sia possibile ed è importante immaginare forme di contrasto e sciopero, anche se oggi si sente solo dire che si deve investire sull’intelligenza artificiale e la sua implementazione, con «il contentino» di proteggere la privacy.

Non è un problema la privacy?
Certo che lo è, ma tutto il resto? La tendenza è fare scomparire non solo i posti di lavoro, ma soprattutto le persone. Questo approccio all’economia tende a mettere al bando l’umano. È un problema di dimensioni enormi, di civiltà. Nessuno tra i politici si pone il problema delle conseguenze. Purtroppo questi discorsi non sembrano produrre nemmeno uno spirito di contraddizione e comunque poca mobilitazione.

Quali potrebbero essere le conseguenze sulla medicina o sulla scuola?
Nella medicina si esprime il livello prescrittivo della tecnologia digitale. Alla medicina digitalizzata è attribuito il potere di dire cosa sia il benessere in nome della gestione di un sistema superiore e più efficace. Questa idea di un’amministrazione della vita risponde a una visione igienista del mondo dove i presunti «difetti» dell’essere umano saranno cancellati. Visto che gli uomini sono soggetti a pregiudizi, allora facciamoli gestire agli algoritmi, come se non fossero anch’essi prodotti dagli esseri umani. Anche nella scuola pubblica si parla di una «trasformazione digitale» e di nuovi modelli pedagogici derivanti dall’uso dell’intelligenza artificiale. L’idea è rendere gli studenti funzionali al sistema economico, quando in realtà la scuola dovrebbe offrirgli gli strumenti per diventare autonomi.

Cosa pensa delle proposte di rompere i monopoli del digitale e tassarne i profitti?
Smantellare Google o Facebook può avere degli effetti, ma non credo che questo basti per fermare questo capitalismo. Esistono aziende sconosciute che lavorano allo sviluppo dell’amministrazione della vita.

Da cosa è necessario partire?
Imparare a dire di «No» come suggeriva Pasolini. Non rassegnarsi a un presunto corso immutabile della storia. Ai discorsi dei think tank e dei governi bisogna opporre un contro-discorso, testimoniare e raccontare la realtà di cosa significa lavorare in una fabbrica, in una scuola o in un ospedale digitalizzato nel modo in cui loro immaginano. Raccontare i fatti al presente è un atto politico. La realtà è nel presente, mentre i discorsi che si fanno di solito sono tutti proiettati verso un futuro perfetto o angosciante. Per contraddire il movimento generale di questa tecnologia in cui siamo immersi è necessario sviluppare un altro immaginario e sperimentare altre forme possibili di esistenza. In un’epoca in cui si parla molto e si agisce poco, potremmo invece riscoprire che l’azione viene prima della parola come sostiene Hannah Arendt.

***

Filosofo e scrittore degli anni del silicio

Éric Sadin è autore di numerose opere sugli effetti nascosti dello sviluppo tecnologico, tra cui «La siliconizzazione del mondo» (Einaudi, 2018), recensito su queste pagine il 21 luglio scorso da Benedetto Vecchi, «Un mondo distopico in salsa di silicio». Il manifesto si è già occupato anche di «Critica della ragione artificiale» (Luiss, 2019): B. Vecchi, «Il mondo dei robot disincantati» (17 luglio 2019). Tra le altre sue opere, Sadin ha scritto inoltre «La vie algorithmique : Critique de la raison numérique», (2015) e «La société de l’anticipation: Le Web Précognitif ou la rupture anthropologique» (2011).