Quando il saggio indica la Luna, l’utente medio guarda il dito. E il governo cinese, davanti agli occhi incuriositi delle democrazie occidentali, si sta assicurando l’accesso alla meccanica dell’industria digitale in grado di reindirizzare con efficacia (e profitto) quel dito: l’algoritmo di raccomandazione.
Come annunciato la scorsa settimana dall’ente regolatore della sicurezza informatica in Cina, la Cyber Security Administration of China, dal 1° marzo la Repubblica Popolare Cinese avrà ufficialmente una normativa per la regolamentazione degli algoritmi, con disposizioni e linee guida per la gestione responsabile del sistema di analisi dei big data in grado di creare suggerimenti personalizzati e aggregazione di contenuti online. Lo stesso che ha fatto la fortuna di colossi come Alibaba, Tencent e ByteDance fornendo agli utenti un’esperienza di navigazione ottimizzata. Una norma rivoluzionaria per il capitalismo da piattaforma e la prima del suo genere a livello globale, ma anche un’occasione per il Partito comunista cinese di riappropriarsi del controllo dei contenuti online e rispondere a problematiche sociali di ampio respiro.
Presentato inizialmente ad agosto 2021 e pubblicato lo scorso 31 dicembre nella sua versione finale con alcune (significative) modifiche, il regolamento si configura come la punta di diamante nella “grande rettificazione” del settore digitale messa in atto da Pechino, e racchiude in un’unica norma disposizioni che riguardano gli obiettivi economici, politici e ideologici del Partito.
La normativa richiede alle piattaforme digitali di non fare “eccessivo utilizzo” degli algoritmi di raccomandazione, in uno sforzo degli enti regolatori di proteggere i consumatori da violazioni della privacy e pratiche sleali fondate sullo sfruttamento dei big data. Tra queste, la più detestata dai consumatori cinesi è la cosiddetta discriminazione algoritmica, o “pugnalata da big data” (dal cinese dashu ju shashu, 大数据杀熟), la differenziazione di prezzo nei servizi digitali calcolata in base al profilo dell’utente e alle sue abitudini di consumo. Dall’aumento dei prezzi di consegna su Meituan (app di delivery) alla discrepanza di risultati su Taobao (e-commerce di Alibaba) e Ctrip (app di viaggi), sono diversi gli esempi di abuso da parte delle piattaforme che hanno portato l’Associazione consumatori cinese ad accusarle di “bullismo” e a reclamare, esattamente un anno fa, l’intervento statale.
Per porre fine a questo tipo di prassi che secondo la Cac ha “scosso profondamente il naturale ordine di mercato e l’ordine sociale” della Rpc, la regolamentazione concederà diritti senza precedenti agli utenti cinesi, dando loro la possibilità di disattivare i suggerimenti personalizzati e di richiedere la rimozione degli hashtag di tracciamento. Alle aziende è invece richiesta maggiore trasparenza. Verso gli utenti, fornendo spiegazioni sul funzionamento base degli algoritmi e della loro applicazione. E verso lo Stato, sollevando il velo di Maya sulla matrice binaria del loro successo ed esponendola alla supervisione degli enti regolatori. Fine del segreto professionale. Gli algoritmi dovranno essere registrati presso le autorità competenti, che si riservano il diritto di intervento su meccaniche e contenuti secondo l’onnipresente mantra della” sicurezza nazionale”.
Come spesso accade nella legislazione cinese, agli obiettivi pratici si accompagna una spiccata retorica. Le piattaforme sono invitate a diffondere “energia positiva” nella sfera online, promuovere “valori tradizionali” ed evitare di creare “tossicità” tramite l’illecito impiego degli algoritmi. Un linguaggio ormai familiare a diversi settori che nella Cina di Xi Jinping stanno vivendo un momento di profonda riforma, da quello dell’intrattenimento a quello dell’istruzione, passando per il digitale.
E che pone la norma di regolamentazione degli algoritmi all’intersezione degli obiettivi perseguiti dal governo cinese nell’ultimo anno: protezione dei dati, costruzione di una “civiltà digitale sana”, rettificazione morale di utenti e content creators e responsabilizzazione delle piattaforme.
In un tono paternalistico tipico della narrativa di Partito inoltre, la norma chiede di “proteggere gli interessi degli anziani” nel loro utilizzo dei servizi digitali e di tutelare i minori contro l’assuefazione da contenuti internet. Già avviata la risposta di alcune delle piattaforme più grandi. Douyin di ByteDance ha per esempio ridotto l’utilizzo dell’app a 40 minuti al giorno per i minori, mentre Tencent ha messo un freno all’acquisto di potenziamenti e token all’interno dei videogiochi per gli under-12. Buone notizie anche per i riders, protetti nella normativa tramite alcune disposizioni sul corretto utilizzo degli algoritmi nel settore delle consegne a domicilio.
Ma con l’ultima bozza il Pcc ha ufficialmente scoperto le sue carte. Gestire gli algoritmi non è solo una questione economica, e ciò che affascina è il gioco di specchi messo in atto dal machine learning che dispone i contenuti in modo strategico di fronte all’utente catturandone l’attenzione. Non a caso il regolamento fa riferimento a qualsiasi piattaforma capace di “influenzare l’opinione pubblica” e di “mobilitazione sociale”. Competenze che devono a tutti i costi rimanere prerogative dello Stato.
Ecco così che nella versione finale della normativa è comparsa una clausola sui servizi di informazione online, che avranno l’obbligo di ottenere un permesso per operare e sono invitati a trasmettere contenuti approvati da fonti ufficiali e a “non utilizzare gli algoritmi per diffondere informazioni false”, pena una multa fino a 15mila dollari e l’interruzione del servizio. Il Partito influencer delle masse è anche l’unico fornitore attendibile di informazioni.
A interessare il governo, è la natura tanto pervasiva quanto impercettibile dell’algoritmo di raccomandazione, e la sua capacità di reindirizzare l’attenzione dell’utente. Nella società digitale del sovraccarico di contenuti, controllare la scala di priorità dei contenuti è controllare l’informazione. E il governo cinese non può farsi scappare questa occasione di arricchire il proprio arsenale di supervisione della discussione online. Dove le compagnie tecnologiche hanno sfruttato questo meccanismo per indirizzare i consumi, l’ambizione governativa così come palesata nella versione finale della norma sugli algoritmi sembra essere sfruttarla per promuovere quei “valori tradizionali” che chiede alle piattaforme di rispettare.
È il naturale proseguo della strategia del nazionalismo digitale: operare direttamente sulle tecnologie di informazione e comunicazione per promuovere la narrativa di Partito. Le conseguenze di questa ambizione sono da tempo evidenti. Lo scorso mese per esempio, il social media Weibo è stato multato per una cifra pari a 470mila dollari per avere favorito l’esposizione di informazioni “illegali”, mentre il sito di recensioni Douban ha pagato 235mila dollari per “distribuzione di informazioni false”.
Con la nuova regolamentazione sugli algoritmi, la Cina fa da apripista nella gestione di un settore sfuggente e scarsamente regolato che interessa i governi di tutto il mondo, ma sul quale nessuno prima d’ora era riuscito a mettere mano. Non mancano i dubbi su come verrà applicata una norma che, per quanto rivoluzionaria, abbonda di principi ma manca di disposizioni applicative pratiche. La natura erratica e dinamica degli algoritmi di raccomandazione, per esempio, rende complesso spiegarne il funzionamento agli utenti, e nessuna menzione è fatta di quanto invasivo sarà il controllo degli enti regolatori in caso di infrazione, né come e quanto queste verranno verificate. Come già avvenuto con le leggi a protezione dei dati promulgate negli scorsi mesi, ora tocca alle aziende conformarsi alle direttive statali e cominciare un dialogo con gli enti regolatori sulla forma che prenderà l’industria digitale cinese in futuro, con una rinnovata consapevolezza che anche a fronte di innovazioni tecnologiche fondamentali, nella Cina di Xi, a guidare il paese e a indicare la Luna, può esserci solo il Partito.