Il sorvegliante ben controllato

La corsa cinese ai Big Data e all’intelligenza artificiale sembra sempre di più una «campagna», simile a quelle che, nel tempo, il partito comunista ha lanciato in Cina sui più disparati argomenti, dal «socialismo con caratteristiche cinesi», alla politica del figlio unico, fino al più recente «sogno cinese» del presidente Xi Jinping. Si tratta di obiettivi non soltanto annunciati, perché poi finiscono per essere declinati in ogni campo della vita sociale del paese, attraverso striscioni presenti nelle città, iniziative, eventi e una serie di indicazioni – rappresentati nella loro ufficialità da documenti del partito comunista – che diventano poi «norma» all’interno dell’organizzazione sociale del paese.
Non è un caso, infatti, che qualche giorno dopo le parole con cui Xi Jinping per la prima volta – all’interno di un gruppo di lavoro a latere del summit del comitato centrale del partito comunista svoltosi un mese fa – ha fatto esplicito riferimento all’intelligenza artificiale, è arrivata la notizia secondo la quale da quest’anno l’Ai diventerà una materia scolastica per gli istituti di primo e secondo grado. In precedenza, i media cinesi avevano spiegato che in alcune scuole saranno attivi alcuni droni dotati di telecamere «intelligenti», in grado di monitorare ogni secondo gli alunni, studiandone i comportamenti durante le lezioni.

La corsa all’Ai finisce per irretire tutta la popolazione: investimenti, educazione e formazione, è il cocktail che la dirigenza cinese sta cercando di ottimizzare affinché si renda credibile l’obiettivo che la leadership si è data, ovvero colmare il gap con gli Stati uniti entro il 2020 e diventare la prima potenza in fatto di intelligenza artificiale entro il 2030.
Naturalmente, questo processo non viene letto solo nella sua direzione e nei suoi impatti immediati di natura economica e tecnologica. Se è vero, infatti, che la Cina punta a sviluppare l’Ai per migliorare la propria produzione manifatturiera, la medicina, le ricerche per quanto riguarda lo spazio e, più in generale, l’«internet delle cose», è altrettanto chiaro che questo approccio sia ormai da riferirsi anche a tutto quanto l’Ai può dare a un partito unico in un paese, in termini di controllo sociale e «mantenimento della stabilità» (il vero mantra della dirigenza cinese, da Deng Xiaoping in avanti).

È bene ricordare che la storia della Cina è segnata, da sempre (pur nelle tante differenze che emergono nel periodo imperiale tra le varie dinastie) da più o meno velati tentativi di irrigimentare la società attraverso un controllo diffuso e, in alcuni casi, «militarizzato». A questo proposito non ci sono esempi solo nella – più vicina a noi – Rivoluzione culturale. Come scrive Kai Vogelsang nel suo prezioso Cina, una storia millenaria (Einaudi, 2014, pp.632, euro 35), uno dei volumi migliori per quanto riguarda la straordinaria storia cinese, «anche nella vita quotidiana la società dei Qin era organizzata in modo perfettamente militare. Tutti gli abitanti erano divisi in gruppi di cinque o dieci famiglie che lavoravano insieme e si controllavano a vicenda. Nacque così un vigoroso sistema di sorveglianza in cui tutti erano sottoposti all’obbligo della denuncia e della responsabilità collettiva». Questo sistema fu pensato da Shang Yang, colui che in precedenza aveva convinto tutti a fare del «legismo» la guida dell’allora impero: più in là, venne accusato di aver fomentato una rivolta e finirà la sua vita squartato.
Sulle tendenze securitarie e più in generale sulla corsa cinese all’Intelligenza artificiale ne abbiamo parlato con Jeffrey Ding, ricercatore presso l’Università di Oxford. Spesso citato da media internazionali, come il Washington Post, il South China Morning Post, la Mit Technology Review, ha pubblicato nel marzo del 2018 un report dal titolo Deciphering China’s Ai Dream. The context, components, capabilities, and consequences of China’s strategy to lead the world in Ai, nel quale analizza natura e tendenze su tecnologia, Big Data e, naturalmente, intelligenza artificiale. Oltre a questo, cura una newsletter fondamentale per chi si occupa di questo paese asiatico e di intelligenza artificiale.

Quali sono secondo lei i principali obiettivi della Cina legati all’intelligenza artificiale?
Gli obiettivi riguardano la necessità di costruire competitività economica e sicurezza militare. I migliori analisti di questo processo hanno identificato l’intelligenza artificiale come una tecnologia in grado di fornire un vantaggio strategico decisivo nel campo della sicurezza internazionale. Alcuni hanno ipotizzato che lo sviluppo dell’intelligenza artificiale potrebbe costituire una rivoluzione nel settore bellico, cambiando il carattere della guerra e della competizione militare. Potrebbe avere impatti simili nella sfera economica, poiché è un campo in grado di alterare i processi di produzione in una vasta gamma di settori.

Crede che il divario tra Cina e Usa possa diminuire?
Penso che gli Stati Uniti siano abbastanza all’avanguardia in termini di sviluppo dell’intelligenza artificiale. Nel mio report stilo una sorta di Indice di Potenzial Ai: in questo indice gli Stati Uniti hanno il 33 percento del potenziale mondiale di intelligenza artificiale, mentre la Cina è in scia con il 17 percento. Per quanto riguarda il lungo termine, è troppo difficile da prevedere, perché i diversi driver (hardware, dati, talento di ricerca e sviluppo e l’ecosistema commerciale) che alimentano l’intelligenza artificiale stanno rapidamente trasformandosi e quanto è vero oggi potrebbe non esserlo più in futuro. Ad esempio, i progressi nella creazione di dati sintetici e nella simulazione dei dati potrebbero smorzare l’importanza di avere accesso a dati grandi e ben strutturati.

Quali sono le start-up preminenti di Ai (e gli imprenditori) che sono più connessi con la vita quotidiana in Cina oggi?
Molte startup, come Sensetime, lavorano su tecnologie fondamentali di cui gli utenti ordinari non hanno molta esperienza nella loro quotidianità. Le aziende, come Baidu, che hanno adattato le tecnologie di Ai in prodotti (oratori intelligenti) sono più legate alla vita quotidiana in Cina.

Sulla base dei suoi studi e delle sue ricerche, è preoccupato per le implicazioni cinesi in questo settore e le potenziali forme di sorveglianza sociale?
Sì, lo sono. Vi sono diversi rischi che le tecnologie di intelligenza artificiale possano consentire una censura e una «vigilanza» più efficienti.

All’interno del campo dei Big Data e dell’intelligenza artificiale finisce anche il cosiddetto sistema dei crediti sociali cinesi. Non a caso uno dei capitoli del suo report è intitolato proprio «Implicazioni dell’Ai sul modello di governance sociale della Cina». Come descriverebbe questo «piano» a un pubblico occidentale? Siamo di fronte al Grande Fratello o semplicemente a Confucio?
Il sistema del credito sociale cinese potrebbe essere definito come uno sforzo del governo cinese per aumentare la fiducia nella società, monitorando le attività dei cittadini. Nella pratica, però, non esiste un sistema nazionale coerente al momento, quanto una rete disgiunta di sistemi che include anche quelli molto simili ai modelli di valutazione del credito finanziario. Tuttavia, c’è il rischio che i progressi dell’intelligenza artificiale  possano portare alla sorveglianza di massa.