Kashmir Hill, il volto inquieto della democrazia

Un’inchiesta che ha il ritmo di una spy story, ma che interroga allo stesso tempo profondamente il futuro della democrazia americana. Nel raccontare l’ascesa della startup tecnologica Clearview AI, nata nel 2017 e che ha messo l’Intelligenza artificiale al servizio della raccolta di immagini e del loro uso per il riconoscimento facciale su larga scala, in La tua faccia ci appartiene (Orville Press, traduzione di Vittoria Parodi, pp. 388, euro 26), la giornalista del New York Times Kashmir Hill indaga il modo in cui gli interessi commerciali, gli appelli alla sicurezza e l’evocazione di una sorta di Big Brother tecnologico, si stagliano all’orizzonte di una società sempre più divisa, incerta e impaurita. Kashmir Hill presenterà il suo libro oggi pomeriggio all’Università Cattolica di Milano e giovedì al Circolo dei Lettori di Torino.

Come ha fatto una piccola startup tecnologica ad accumulare nel proprio database qualcosa come 30 miliardi di volti, crescendo, come lei spiega dopo aver incontrato il fondatore, Hoan Ton-That, al ritmo di 75 milioni di immagini al giorno?
Nel frattempo siamo arrivati a 40 miliardi di volti… e la loro crescita non sembra volersi interrompere. Più che le caratteristiche specifiche di questa startup, a pesare nel raggiungere tali risultati, a fare la differenza rispetto al passato, è stato il cambiamento tecnologico: gli strumenti a disposizione per la raccolta delle immagini e relativi al riconoscimento facciale sono infatti sempre più accessibili.

Ma anche la «materia prima» (le immagini, i volti) su cui si basa questo processo è sempre più disponibile?
Il punto di partenza è l’innovazione tecnologica, ma poi è chiaro che Clearview ha ormai accumulato un vantaggio sui possibili concorrenti, nel senso che ha assemblato un database enorme e che la sfida è già impari: ad esempio una delle società del settore ha un database con «solo» 2 miliardi di volti. E più sono le immagini di cui già disponi attraverso i social, collegate ad un nome e altri dati personali, più è facile attribuire un’identità a ciascun nuovo volto si aggiunge.

Un «mercato» che alimentiamo noi stessi attraverso le immagini che postiamo sui social…
Certo, in fondo è vero che siamo noi stessi a contribuire a questa industria. Perché, ad esempio, le foto che postiamo su Facebook ci ritraggono in tante situazioni diverse, in vacanza, insieme agli amici, ai parenti, ai nostri affetti, nel quotidiano… Ci siamo taggati anni fa e quelle immagini continuano a ricondurre a noi quando le società le «raschiano» abusivamente. Perciò, l’unica cosa che possiamo fare per tentare di invertire la tendenza è rendere private queste immagini, riservarle a una cerchia ristretta di persone. Quando le condividiamo con tutti, non abbiamo più nessun tipo di controllo.

Gli ideatori di Clearview pensavano di vendere la loro app alle grandi aziende e al circuito del commercio, ma i loro principali clienti al momento sono le forze dell’ordine locali, l’Fbi e l’Homeland Security, il Dipartimento della sicurezza interna: quanto è esteso il fenomeno?
Negli Stati Uniti gli strumenti di Intelligenza artificiale messi sul mercato da questa azienda sono utilizzati da oltre duemila enti che svolgono a vario titolo operazioni di polizia: dal Dipartimento di polizia di Miami, solo per fare un esempio, alla sicurezza interna a livello federale.

E questo in base a quali norme? Lei cita come un caso isolato la legge dell’Illinois che vieta il controllo biometrico. Fino ad ora questi strumenti per il riconoscimento facciale sono stati bloccati nella Ue, mentre negli Stati Uniti non esistono norme federali in tal senso, perché?
In effetti l’Illinois è uno dei pochi Stati americani che ha adottato una specifica legislazione sul riconoscimento facciale. Però, attenzione, solo le aziende private devono chiedere eventualmente il permesso, non gli enti governativi, a partire da quelli che si occupano della sicurezza. Mentre invece, a livello federale non c’è alcun regolamento, nessun limite: è il Far West… A quanto pare, nel mio Paese si è deciso di concedere ai corpi di polizia dei «superpoteri»: vogliamo che possano usufruirne liberamente e che li utilizzino sul serio!

Nel libro torna sovente il termine «distopia», mentre ci sono tre parole, «privacy, libertà e diritti individuali», spesso evocate come fondanti la democrazia americana, che vengono smentite da quanto racconta. Siamo di fronte al solito tema – in nome della sicurezza si è pronti a rinunciare a parte della propria libertà – o c’è qualcosa di più complesso?
Credo che negli Stati Uniti ci si muova sempre in una sorta equilibrio. Da una parte c’è la sicurezza, compresa l’incolumità personale, intesa come un fatto di Stato. Dall’altro, ci sono la privacy e la libertà individuale. Siamo il Paese dei diritti individuali, ma in verità neanche nei documenti fondativi degli Stati Uniti d’America c’è un riferimento a quella che oggi chiamiamo privacy. Quanto alla distopia, beh non ci siamo ancora arrivati, ma i problemi non mancano. Mi spiego. Mentre sono convinta che utilizzare questo tipo di tecnologie per risolvere casi penali, per combattere la criminalità, sia una cosa positiva, sarei decisamente contraria al fatto che tutte le telecamere a circuito chiuso che popolano le nostre strade abbiano sempre attivo un dispositivo di riconoscimento facciale. Queste cose lasciamole alla Russia e alla Cina, ma da americana il mio timore è che pian piano anche noi scivoliamo verso quella direzione. Ma per evitarlo, negli Stati Uniti c’è una battaglia da condurre. Anche perché emergono già dei casi allarmanti in questo senso. Penso al Madison Square Garden di New York che utilizza già da tempo il riconoscimento facciale per evitare che in occasione degli incontri e degli eventi sportivi ci sia qualche minaccia alla sicurezza. Di recente, però, hanno utilizzato questo strumento anche per impedire l’ingresso agli avvocati impegnati in qualche contenzioso legale con la proprietà e che, di conseguenza si sono visti impedire l’accesso in occasione di un concerto di Mariah Carey o di un incontro di hockey. Ora è questa «categoria» ad essere presa di mira, ma se si parte dal volto di qualcuno, si scopre la sua professione, ecc… beh, è un attimo che si arrivi alle sue convinzioni politiche, a come la pensa. E questo va impedito.

Dalla sua inchiesta scopriamo che all’inizio i creatori di Clearview si sono mossi negli ambienti della Alt-right, tra i sostenitori di Trump. Un tempo l’immagine dei pionieri della tecnologia sembrava avere un segno progressista, oggi ne è emblema un personaggio come Elon Musk. Sembra paradossale che l’annuncio del futuro si possa rifare a idee come quelle di Lombroso sulla fisiognomica di cui si parla nel libro…
Credo che lei abbia ragione. Musk è proprio l’incarnazione di una visione polarizzata che colloca gli individui in caselle prestabilite, non comunicanti. Un modo di pensare che in effetti si ricollega ad un orientamento vecchio, superato. Come faceva Lombroso che riteneva che una persona fosse intelligente o stupida, «primitiva» o avanzata, criminale o meno in base a certe misurazioni dei parametri facciali. Una tendenza del pensiero che abbiamo conosciuto e che è stata poi abbandonata. Anche se alla fine, ecco che la vediamo riemergere. Studiosi che analizzano le foto segnaletiche dei criminali per cercare di estrarre elementi atti a catalogare la popolazione: un metodo che come minimo ci farà individuare dei criminali anche dove non ci sono. Qualcosa di sbagliato e pericoloso.

Rispetto all’utilizzo di tali tecnologie, che scenario apre l’ipotesi che il prossimo Presidente sia un candidato sotto processo per i fatti del 6 gennaio del 2021, l’attacco a Capitol Hill per impedire l’esito del voto democratico, come Trump?
È difficile rispondere in modo netto perché la tecnologia rappresenta sempre una sorta di arma a doppio taglio. Per dire, proprio nel caso dell’assalto al Campidoglio di Washington, il riconoscimento facciale ha permesso di individuare molti dei partecipanti. Gli stessi strumenti utilizzati contro i nemici della società, i criminali per capirci, possono però essere impiegati anche nei confronti dei propri avversari politici. Perciò, cosa vorrà fare Trump di tali strumenti non è ancora possibile dirlo. Inoltre, si deve tener conto del fatto che il tema della difesa della privacy è totalmente bipartisan negli Usa. Nelle due ali delle nostre Camere ci sono deputati e senatori che non sono d’accordo su quasi niente, ma lo sono sul cercare di arginare l’utilizzo senza controlli del riconoscimento facciale. La verità è però che spesso su questi temi non è più questione di destra o sinistra, quanto piuttosto del potere che detengono ormai le società che producono e vendono tecnologia.