Tempi non facili per l’intelligenza artificiale. Anzi, meglio: tempi non facili per chi c’è dietro l’intelligenza artificiale. Per chi la propaganda senza alcuna regola. La notizia, una volta tanto, arriva dal nostro paese. Esattamente dal Garante della privacy. Che ha fatto sapere di aver “limitato l’uso dei dati degli utenti italiani” di uno dei più famosi – prima che esplodesse la bolla di ChatGPT – e discussi chatbot: Replika. Misura immediatamente esecutiva, pena multe salatissime. Una misura che di fatto blocca, almeno qui da noi, quel programma capace di interagire vocalmente con gli utenti.

E non è un provvedimento da nulla. Perché Replika è attiva ormai da parecchio tempo, fece il suo esordio cinque anni fa. Si presenta con un’interfaccia digitale facilissima da usare ma soprattutto dispone di un chatbot che garantisce, almeno all’inizio, un interloquire realistico, tranquillo. Seducente. Un “amico”, insomma, un amico virtuale in grado di supportarti nei momenti di stress, di ansia. Di difficoltà.

Chi l’ha analizzato racconta che in realtà le risposte fornite dall’intelligenza artificiale sono decisamente banali, semplicistiche. In ogni caso Replika ha avuto un boom, soprattutto fra i giovanissimi. Boom ulteriormente amplificato dal fenomeno che segna quest’inizio dell’anno, il successo di ChatGPT. Una crescita altrettanto fragorosa, quella di Replika, che però ha fatto crescere anche l’allarme.

Beninteso: allarme non alimentato da indagini delle autorità ma dalle discussioni fra gli utenti. Perché non più tardi di un mese fa, nello spazio-commenti degli store dove si scarica l’applicazione – Replika funziona anche, soprattutto sui cellulari – sono apparse le prime denunce. Da allora è stata una valanga: finché una ragazza non ha raccontato d’essere stata molestata sessualmente on line. Con vere e proprie minacce.

Sì, perché il bot di conversazione, dopo un approccio soft, ti invita a usufruire del servizio a pagamento, dove si può parlare anche sui rapporti più intimi. Anche di sesso.

A quel punto, ma solo a quel punto, è scattato il campanello al Garante della privacy italiano. Che ha fatto comunque delle semplici verifiche. Scoprendo che sì, le risposte a quesiti delicati erano assolutamente “inadeguate” ma scoprendo soprattutto che per l’accesso basta fornire nome e cognome – qualsiasi – un indirizzo di posta ed indicare il sesso. Senza alcun controllo se l’accesso è usato da un minore. Addirittura s’è scoperto che un adolescente – che non si era nascosto e si era dichiarato tale – continuava ad interloquire con l’intelligenza artificiale.

Tutto ciò viola palesemente le norme europee nel settore. Dove non può essere stipulato alcun contratto on line con un minore.

Da qui, la misura di “blocco dei dati”, perché Replika non rispetta “il principio di trasparenza” delle norme europee e quindi si “rende colpevole di un trattamento illecito dei dati personali”. Dalla mattina del 3 febbraio Replika non li può più usare. Il blocco – che dovrebbe impedirne il funzionamento – è comunque provvisorio. In attesa che la società che lo gestisce, la statunitense Luka Corp, non provveda. Se non lo fa però rischia una sanzione fino a 20 milioni di euro o il quattro per cento del fatturato.

Le repliche di chi la gestisce non ci sono ancora state. Ieri pomeriggio, però, il sito Web del chatbot si presentava con una scritta inquietante: “Il compagno A.I. che se ne frega”. Nessuno ha capito bene cosa volesse dire.