Software di sorveglianza contro la pedofilia online: privacy a rischio in Europa

Sono tanti i capitoli della più brutta storia di sorveglianza. Che ci riguarda da vicino. C’è un paragrafo con due piccole storie, che arrivano dall’altra parte dell’Oceano ma che sembrano solo la punta d’un iceberg. Ci sono le norme che solerti funzionari di Bruxelles mettono sorprendentemente al primo punto degli impegni post feriali del parlamento. Poi uno scontro – duro – fra i socialisti del vecchio continente, dal quale i loro “colleghi” italiani si tengono alla larga. Ed ancora, una campagna di lobbyng che arriva anche questa dagli Stati Uniti, quantomeno sospetta.

Tanti capitoli, allora, che hanno però un unico finale. Meglio, un unico obiettivo: il più serio, il più pericoloso tentativo di introdurre la sorveglianza di massa in Europa. Introdurla qui, per poi esportarla magari in altre parti del mondo. 

Conviene andare per ordine, allora. Da tempo, da anni, la Commissione, su spinta soprattutto della commissaria per gli affari interni, la socialdemocratica svedese Yilva Johansson, sta provando a scrivere una serie di misure per combattere la pedofilia in rete. Un complesso di norme che tutti chiamano Csam, Child Sexual Abuse Material. Ne sono state pensate e scritte diverse versioni, tutte sempre alla fine ritirate, perché palesemente in contrasto con tutte le leggi europee sul diritto alla privacy. 

Poco prima che iniziasse quest’estate però la Johansson ha presentato l’ultima versione, quella definitiva per il “governo” dell’Europa. Uguale, sostanzialmente uguale a tutte le altre. Al punto che l’Electronic Frontier Foundation, la più rilevante organizzazioni mondiale per i diritti digitali, che pesa sempre col bilancino le parole dei suoi comunicati, ha scritto che “siamo di fonte ad una proposta terribile”.

Perché il progetto (da pochi giorni si può leggere anche in italiano) prevede che qualsiasi cosa messa in rete sia “scansionata”, controllata. Sorvegliata. Tutto ma proprio tutto-tutto: messaggi, email, foto, filmati, file audio. Tutto. Comprese le comunicazioni criptate, quelle che usano il sistema end-to-end, il contenuto delle quali non è leggibile al di fuori delle persone che si scambiano i messaggi. Sarebbe la “scansione dal lato client”, la sorveglianza cioè a partire dai telefonini di chi scrive. E come suggeriscono alcuni fra i più autorevoli esperti del settore questo farà saltare ogni protezione. Oltretutto, esponendo i minori a qualsiasi “incursione” sui loro dispositivi.  

Tutto, dunque. Vogliono controllare tutto, “a strascico”. Le modifiche rispetto alle prime versioni, sono solo di facciata, “estetiche”, per usare sempre la definizione delle associazioni per i diritti digitali. Perché è vero che nel testo approvato dalla Commissione si dice che il controllo su tutto il traffico in rete dovrebbe – condizionale – avvenire su richiesta di un giudice, che era la prima, minima richiesta della società civile negli anni scorsi. Ma subito dopo si aggiunge che, se chi gestisce le connessioni non sarà in grado di assicurare il blocco totale dei file “sospetti”, allora si ricorrerà alle misure estreme.

Alcune delle quali nemmeno immaginate dagli scrittori cyberpunk. Sì, perché le norme ipotizzano anche strumenti di “rilevamento del grooming”. Si dice insomma di voler provare a prevenire l’adescamento in rete, intervenendo quando si scoprono “i primi approcci dei pedofili alle vittime”. E questo lo si realizzerà scansionando qualsiasi file di testo, qualsiasi cosa scritta. Cosa che non potrebbe fare neanche un esercito sterminato di moderatori e quindi tutto sarà affidato all’intelligenza artificiale. Che poi segnalerà quel che ritiene sconveniente alle autorità. Utilizzando cosa? Quali software, quali strumenti, col controllo di chi?

E qui si arriva alle pressioni – alle strane pressioni – che arrivano dagli Stati Uniti. Protagonista di questo capitolo è Ashton Kutcher, un ex attore – di film di serie b americani, il più famoso da quelle parti si chiama “Dude, where’s my car” –, ex marito di Deni Moore, che dopo la non brillantissima carriera cinematografica si è buttato nel settore della tecnologia di sorveglianza. Associando il suo lavoro a quello di un’organizzazione no profit di tutela dei minori, ha dato vita ad una società, la Safer, proprietaria di un software in grado – scrive lui stesso  – di “diventare il più importante strumento di lotta al Csam al mondo”.

Ed in questa duplice veste, di rappresentante di un’organizzazione di beneficienza e di titolare di una società che vende software, Ashton Kutcher ha incontrato diverse volte Yilva Johansson. Dove le ha presentato e magnificato il suo software di spionaggio. Tutto documentato, grazie al lavoro di controinformazione di netzpolitik.org, che dopo una lunga battaglia legale è riuscita a farsi consegnare i verbali degli incontri. Senza contare che l’ex attore, proprio due anni fa, all’inizio della discussione su queste norme, è riuscito ad incontrare nientemeno che la Von der Leyen. Che del resto ha un orecchio addestrato a questi temi, visto che tredici anni fa, quando era semplicemente ministro tedesco per la famiglia, tentò di far approvare una legge simile nel suo paese. Proposta ben presto abbandonata, travolta da un rifiuto che coinvolse addirittura pezzi del suo partito.

Sarà il software targato Safer quello che l’Europa acquisterà per rendere operativo il progetto? Non si sa. Per ora, oltre all’entusiasmo di Ashton Kutcher per le nuove norme, c’è solo la creazione dell’ennesimo “centro unico europeo” che aiuterà i soggetti coinvolti a realizzare quanto previsto. E deciderà cosa fare. Quali strumenti, quale software far utilizzare.

Restano da raccontare gli altri capitoli di questa brutta storia. Uno è in qualche modo simbolico. Perché l’uscita sul sito dell’Unione europea del testo della Commissione è arrivato – strana coincidenza – assieme alla pubblicazione, sul New York Times, della disavventura capitata a due padri, uno di san Francisco, uno di Houston. Entrambi, durante la pandemia, avevano i figli che soffrivano di piccoli disturbi ai genitali. In quel periodo di lockdown, senza possibilità di visitarli di persona, i medici chiesero ai genitori di spedire via email le foto dei figli. In modo da poter eseguire una diagnosi a distanza.

Bene, gli algoritmi di Google segnalarono quelle immagini come un probabile scambio fra pedofili e inviarono l’incartamento ai dipartimenti di polizia locali. Ci furono indagini, indagini invasive, ma alla fine tutto si risolse. S’è risolto per i due padri dal punto di vista giudiziario ma non per Google che, immediatamente, cancellò tutto l’archivio di quelle due persone e sospese il loro indirizzo email. Con pesanti conseguenze anche sul loro lavoro. E per il giornale americano, quei due padri sarebbero solo una minima parte dei casi “sbagliati” segnalati da Google. 

Una coincidenza temporale fra il Csam e lo scandalo americano, allora, niente di più. Che risalta però, perché sempre in quei giorni la Johansson, subissata da critiche, ha provato a difendere il suo lavoro in un lungo blog. Dove scrive che gli strumenti di “scanner” ipotizzati dall’Europa hanno “un tasso di accuratezza attorno al 90 per cento”. Cifra improbabile, visto che uno studio – l’unico esistente – ha rivelato che su tutte le segnalazioni fatte autonomamente da FaceBook sui suoi utenti americani, quasi un 80% era assolutamente infondato. In ogni caso, quel dieci per cento di errore significherebbe – calcolando il volume di traffico on line in Europa – che cinquanta, sessanta milioni di persone finirebbero sotto inchiesto per pedofilia. Per errore.  

È tutto fatto, allora, si va verso quest’Europa panopticon? Si va verso questa schedatura di massa che potrebbe essere utilizzata per qualsiasi scopo? Il primo passo l’hanno compiuto. Perché – con una strana fretta, un po’ immotivata – i funzionari di Bruxelles hanno già inserito l’iter delle norme al primo posto fra i prossimi appuntamenti europei. Non è detto però che la strada non sia tutta in discesa per loro. Da tempo, il deputato verde-pirata Patrick Breyer, s’è fatto promotore della campagna #chatcontrol per provare a stoppare il provvedimento.

Ma soprattutto è accaduto che, sempre all’inizio dei primi caldi, si siano riuniti a congresso i socialdemocratici di Berlino. Un congresso cittadino, di quelli ai quali la stampa non dedica molta attenzione. Lì, però qualcuno dei Jusos – l’organizzazione giovanile – si è accorto di cosa si stava preparando. Ha denunciato il progetto, ha chiesto che i ministri socialdemocratici provassero a bloccare tutto. L’intera Spd ha deciso così di passare all’opposizione europea del Csam. E da lì, è cominciata una cascata che è arrivata a coinvolgere addirittura il partito liberale di Berlino e – cosa assai più significativa – il responsabile tedesco della protezione dei dati: “Farò del mio meglio perché questi sistemi non siano implementati”.

Qualcosa fa capire che, forse, si arriverà ad uno scontro nell’aula di Bruxelles. Che comunque dovrà dire l’ultima parola sul progetto, anche se è accaduto rarissimamente che il Parlamento respinga un testo varato dalla Commissione. In ogni caso, dall’italia tutto tace: né un commento, né un tweet, né una parola sull’argomento. 

E di parole invece ne andrebbero spese tante. Perché oltre a norme liberticide, le più liberticide – “che rinnegherebbero un passato fatto invece di leggi avanzate”, scrive ancora l’Eff che sembra avere nostalgia di un periodo però definitivamente finito – conta anche la filosofia che ispira il Csam. Ugualmente preoccupante. Perché rivela che davanti ad un dramma come quello della pedofilia che più di altri richiederebbe un mix di interventi, fatto di sostegni, studi, consulenze, conoscenze, misure nelle scuole e nei quartieri, perché davanti a tutto quello che sarebbe necessario ci si rifugia in scelte tecnologiche. Che sembrano le più facili. Ci si affida all’intelligenza artificiale. Ai software. Come nelle peggiori distopie.