Il giudice e l’algoritmo: in Cina l’intelligenza artificiale arriva nei tribunali

In Cina l’intelligenza artificiale viene ormai applicata anche nel mondo giudiziario: per raccogliere prove, per uniformare le sentenze. Senza alcun dibattito in merito. La corsa cinese all’intelligenza artificiale si ammanta di progressi reali e di propaganda. Nelle ultime settimane la stampa locale ha sottolineato il peso che i sistemi di Ai avranno all’interno del sistema giudiziario, nel lavoro delle corti, nelle procedure e nella raccolta delle prove. Per andare al di là della propaganda e comprendere davvero l’impatto che l’Ai può avere sul sistema giudiziario e più in generale nell’ambito legislativo cinese abbiamo intervistato Renzo Cavalieri, professore di diritto dell’Asia Orientale presso l’Università di Venezia Ca’ Foscari e avvocato presso lo studio legale BonelliErede.

Partiamo dal primo punto: in che modo l’Ai può aiutare la giustizia cinese?
Il primo modo è il più semplice ed è quello cui sono destinati tutti i tribunali del mondo, ovvero il progressivo utilizzo di sistemi di Ai per quel lavoro che viene considerato di cancelleria; si tratta di un impiego di tipo pratico, ed è una delle tante dimostrazioni di quanto la Cina corra anche più rapidamente del previsto. In queste mansioni di cancelleria, in un senso più ampio, anche processuale, la Cina sta andando molto veloce e dalle aree sperimentali si diffonderà a tutto il sistema giudiziario cinese. Poi c’è un altro argomento, diverso, ovvero l’uniformazione delle linee giurisprudenziali: in questo caso l’Ai è strumentale a un atteggiamento tipico della Cina, ovvero la centralizzazione dell’interpretazione di norme che prima era invece affidata alla Corte suprema. Oggi in questo modo, come in una due diligence aziendale, ci sono red flags che avvisano circa deviazioni rispetto alla norma. In questo modo si stabilisce una sorta di uniformità del diritto.

Questo utilizzo che mira a uniformare tutte le sentenze, può dunque essere letto come una ulteriore forma di accentramento?
Stiamo parlando di sistemi basati sull’unità dei poteri dello stato: noi occidentali abbiamo l’idea che tra legislatore, amministratore e giudice ci siano delle dinamiche di un certo tipo, tra poteri indipendenti separati almeno formalmente e a volte in conflitto tra di loro: in questo senso una ingerenza attraverso l’AI sull’indipendenza dell’interpretazione della legge da parte dei giudici, per noi è inconcepibile. Usare l’Ai obbligando i giudici a basare la propria decisione sui database consegnati con i dettagli del caso e segnalando ai superiori quando ci siano degli scostamenti è una forma di violazione dell’indipendenza della magistratura piuttosto palese. Aggiungerei: non tanto della magistratura in sé, quanto della libertà del singolo giudice nell’applicazione della legge.

C’è un ulteriore aspetto che riguarda i processi: come avverrà l’utilizzo dell’Ai in questi casi?
È un po’ presto per dirlo: è vero che ci sono questi primi casi – che rientrano anche nell’ambito puramente propagandistico – in cui l’Ai è utilizzata a 360 gradi. Al riguardo – dato che parliamo di prove – emerge immediatamente il tema dell’ammissibilità. Il discorso è sempre lo stesso: in un sistema che non ha una divisione reale dei poteri non ci sono grandi dinamiche conflittuali tra procuratori, giudice e avvocati, ma solo esigenze di efficienza. Quindi l’ammissibilità della prova diventa un problema quando una delle parti obietta. Ma se non obietta nessuno? Non dubito che nei regolamenti della Corte suprema finiranno per essere ammesse nuove forme di prove, elettroniche o virtuali. In Cina al momento c’è molta fiducia nell’Ai, non c’è il minimo spirito critico. L’ultima modifica della costituzione, del resto, con la creazione della commissione nazionale di supervisione ha dimostrato la povertà di dibattito che c’è al momento. Per tutto quanto riguarda il processo penale non c’è alcun tipo di confronto, nessuno osa. In un sistema così poco garantista non c’è ad esempio il tema della compatibilità di questi sistemi con i diritti sanciti dalla costituzione.

In Cina – e in Occidente – si discute molto del sistema dei social credit. In che modo però questi eventuali dettami amministrativi saranno o potranno essere recepiti dal legislatore cinese?
La commissione di supervisione introdotta a marzo si basa sull’idea di un potere tout court che di fatto risponde al presidente, anche se c’è un richiamo all’Assemblea nazionale. Il sistema dei crediti sociali viene dunque interpretato come una specie di strumento amministrativo. Non è detto che debba essere creata una legge o potrebbero decidere di farla dopo un po’ di anni di sperimentazione come hanno fatto con la pianificazione delle nascite. Al momento è ancora presto per dire se ci sarà una centralizzazione del sistema. Secondo me è uno strumento che viene visto come un apparato sanzionatorio, in cui sono previste sanzioni non equiparabili a tutto quanto regola il penale. Credo che tutto sia gestito come rapporto tra cittadino e amministrazione: va da sé che in un paese come il nostro – ad esempio – tutto questo non sarebbe concepibile.

E per quanto riguarda la privacy dei cittadini? C’è stata di recente una legge a proposito, ma il sistema dei crediti sociali prevede ingerenze per quanto riguarda i dati personali.
I cinesi cominciano a considerare con attenzione il tema. Da tutta la riflessione e la necessità di preservare la privacy è completamente esentato il governo: non ci si pone nemmeno il problema che il governo possa raccogliere dati sui cittadini. In Cina c’è ormai una sensibilità orientata al tema del valore economico e in ogni caso quello che vale per le aziende – o per i cittadini – non vale per il potere. Gli strumenti per reagire ad atti illegittimi in teoria ci sono, ma non funzionano, specie se a livello di giudici nessuno rileva contraddizioni.