Il libro di Paolo Zellini La dittatura del calcolo (Adelphi, pp. 186, euro 12) descrive la storia di un successo nella scienza algoritmica che però potrebbe essersi mefistofelicamente trasformato nell’incubo di una dittatura dell’algoritmo su tutta la conoscenza e persino nelle scelte che hanno conseguenze sulla vita delle persone.
Si tratta della genealogia dell’algoritmo, nato nella pratica della matematica antica per risolvere problemi concreti di calcolo e precisato definitivamente dai logici negli anni Trenta per promuovere la soluzione di alcuni problemi fondazionali dell’aritmetica.
I metodi algoritmici vibrano di desiderio nell’attenta, puntuale ricostruzione di Zellini. La definizione si precisa nella teoria della computabilità – quanto di più astratto offra la matematica. Eppure l’algoritmo diventa l’idea cardine dell’informatica. L’autore dimostra ancora una volta la sua maestria nel muoversi e accostare campi lontani come la storia delle idee, della matematica teorica e del calcolo applicato. Riesce a tenere insieme la ricostruzione tecnica di una vicenda multiforme con la discussione della posta filosofica, e in questo caso anche politica, in gioco.

LA SUA POSIZIONE rimane intermedia, rispecchia la costruzione del calcolo algoritmico per la soluzione dei problemi, come potenza e come rischio per la conoscenza. Nella lotta tra la dimensione magica, divina della matematica che investe anche l’etica antica da un lato, e dall’altro una sua potenziale «irrazionalità impaziente e risoluta» che sembra stare al centro di una perdita di controllo degli algoritmi da parte degli umani, Zellini si limita a osservare, senza parteggiare.
«Cosa può e cosa non può essere automatizzato?». Il quesito attraversa il libro, che squaderna di fronte ai lettori un turbinio di possibili esiti e di questioni teoriche e pratiche irrisolte. Un suggerimento che potrebbe essere la chiave di volta arriva dalla citazione di Novalis: «l’uomo per pigrizia desidera un puro meccanismo o una pura magia». Il calcolo algoritmico sembra offrire tutte e due le cose in una volta. Il metodo favorisce forse il riposo eterno per l’essere umano troppo pigro per guardare nella scatola nera della macchina algoritmica.
Il concetto di algoritmo comincia a precisarsi per definire l’infinito in atto nel tardo Ottocento per opera di Dedekind e Cantor. Abbandona poi l’idea dell’infinito per svolgere un ruolo cruciale nella soluzione negativa del problema della decisione nell’ambito del programma logico di David Hilbert.
È Alan Turing, uno degli scienziati più importanti del Novecento, che nel 1936 fornisce una definizione di algoritmo come una macchina in grado di eseguire una procedura di calcolo in un numero finito di passi prescritti da una tavola di istruzioni. La definizione serviva per ottenere un equivalente formale o quasi-formale all’idea di «calcolabilità effettiva». Una procedura effettiva è eseguibile attraverso una Macchina di Turing, un dispositivo astratto, in grado di catturare l’idea stessa di cosa sia un calcolo in linea di principio.

LA MACCHINA DI TURING è un oggetto anfibio alla cerniera tra logica formale e calcolo materiale. Viene usata per ottenere un risultato negativo: ci sono numeri che non può calcolare come quello che serve a risolvere il problema della decisone in un sistema formale di logica, o la fermata di un programma prima che sia terminato. Nonostante sia stata inventata per fornire un risultato teorico negativo, paradossalmente la macchina apre la strada alla nascita del computer meno di dieci anni dopo.
Zellini propone una tesi interessante: pur essendo al centro della discussione sui fondamenti della matematica, la teoria algoritmica abbandona i problemi astratti per concentrarsi sulle possibilità dei calcoli concreti; occupa, quindi, il cuore dell’informatica, scienza applicata per eccellenza. Ma il passo di lato dell’algoritmo, che rimuove fondamenti e infinito, non è sufficiente. Nella scienza applicata si ripresenta l’incertezza: dall’effettività si passa all’efficienza.

IL PROCESSO INFORMATICO non solo deve terminare in un numero finito di passi, ma deve essere «efficiente». Un algoritmo è efficiente se limita la complessità computazionale, se cioè ottiene il risultato in un tempo ragionevole, e occupa una porzione di memoria limitata. Inoltre deve contenere entro un tasso minimo dato, la percentuale di errori che produce, deve essere sufficientemente affidabile.

NELL’AMBITO della calcolabilità algoritmica pratica si propone di nuovo il problema del confine tra finito e finito molto grande che è simile a quello del rapporto controverso tra finito e infinito. Quindi nella pratica – suggerisce Zellini – si trova di nuovo la faglia della matematica teorica: se il finito è molto grande, lo possiamo maneggiare con gli algoritmi? O ci sfugge di nuovo, ma ne siamo inconsapevoli?
Sono molte le questioni che minano l’affidabilità della scienza algoritmica quando pretende di occuparsi di qualsiasi problema, inclusi quelli delle scienze sociali e delle scelte politiche: per esempio, a chi offrire i servizi del welfare? Quali caratteristiche servono per ottenere un mutuo? L’esplosione esponenziale dei passi in un algoritmo, che in linea di principio ha una soluzione, costringe in pratica ad abbassare le richieste e scegliere un algoritmo simile, la cui affidabilità è più incerta del metodo ottimale ma impraticabile.

QUANDO I DATI sono troppi e le procedure lunghissime non possiamo essere sicuri del contenimento dell’errore, ma una volta che abbiamo delegato le decisioni alla macchina, non possiamo più guardarci dentro per scoprire cosa non andava. Dobbiamo fidarci della bontà di un risultato incerto, auspicando di aver impostato bene il problema. Il totalitarismo cibernetico non nasce solo da una deformazione del rapporto tra uomo e macchina, come denunciava Norbert Wiener, padre della cibernetica, citato da Zellini, ma da una rimozione dei problemi dei fondamenti della matematica e dalla «fatale attrazione di una materialità algoritmica».
Il desiderio di misurare e controllare ogni cosa è irrealizzabile, ma la dittatura algoritmica vorrebbe imporre su ogni problema il risultato di un calcolo, come soluzione inequivocabile. In molti casi è impossibile rappresentare i problemi per poterli calcolare, senza stravolgerli. Qual è, per esempio, il fidanzato ideale per Margherita che ama la natura, e scrive poesie? Non è ragionevole quantificare le relazioni sentimentali. L’ipotesi implicita degli algoritmi dei siti e delle app di dating e incontri online, come di ogni algoritmo che riguarda le persone, presume invece una misurabilità del desiderio, che trasforma tutti in oggetti, merci del mercato neoliberale.

LE PREVISIONI DI MACCHINE algoritmiche, oracolari come le sentenze di Tiresia, sacerdote cieco di Apollo, hanno però effetto sulla nostra storia, trasformandola. Se Edipo non fosse stato cacciato da Tebe neonato, per contrastare la profezia che lo voleva assassino del padre e sposo della madre, avrebbe conosciuto i suoi genitori e non l’avrebbe avverata.
L’oracolo è parte attiva nella realizzazione della storia che anticipa. Per questo la dittatura degli algoritmi è dannosa oltre che millantatrice e inaffidabile.