Quell’algoritmo «velenoso» ci difenda

La marcia dell’intelligenza artificiale alla conquista del mondo non è trionfale come sembra. Gli umani stanno reagendo sfruttando con astuzia i punti deboli delle reti neurali basate su elettronica e informatica. Lo suggerisce una ricerca del dipartimento di informatica dell’università di Chicago (Usa) coordinata dallo statunitense Ben Zhao, tra i massimi esperti mondiali di cyber-sicurezza e machine learning. Per ora si tratta solo di un preprint, uno studio pubblicato su Internet non ancora valutato da una rivista scientifica per la pubblicazione. Ma il contenuto sta già facendo il giro del mondo, perché mostra che difendere la creatività dall’intelligenza artificiale è forse possibile.
Zhao e colleghi hanno preso di mira alcuni tra i più popolari sistemi di «intelligenza artificiale generativa», le piattaforme in grado di produrre contenuti nuovi e originali su richiesta dell’utente. Alcune – come l’ormai celebre ChatGPT o la più giovane Bard – sono capaci di chiacchierare e scambiare informazioni con gli utenti attraverso la parola scritta. Altre sono specializzate nella creazione di immagini su richiesta con un realismo e un’accuratezza impressionanti: le celebri immagini fake di papa Francesco in piumino bianco o di Trump in manette trassero in inganno diversi professionisti dei media. Zhao e i suoi collaboratori si sono dedicati proprio a queste ultime piattaforme, dimostrandone la vulnerabilità e riaccendendo le speranze per gli illustratori in carne e ossa.

TRA LE MINACCE che devono fronteggiare gli artisti, infatti, c’è quella dell’appropriazione indebita. Per produrre immagini così ben aderenti al tema e allo stile richiesto dall’utente, le intelligenze artificiali devono essere allenate su gigantesche quantità di dati. «Sistemi come Stable Diffusion e Dall-E (due delle piattaforme più popolari, ndr) vengono allenate su banche dati che comprendono tra i 500 milioni e i 5 miliardi di immagini scaricate dal web» scrivono i ricercatori di Chicago nello studio. Processando tutte queste figure e le loro descrizioni testuali, le piattaforme associano i contenuti alle immagini e imparano a generarne di nuove sulla base delle richieste degli utenti.
Le banche dati sono alimentate rubando contenuti grafici sul web senza tanti scrupoli: ci può finire dentro qualunque disegno o fotografia raggiungibile con un pc collegato in rete. Anche quelle create da artisti veri e propri, magari dopo anni di studio e ricerca, che in pochi secondi la macchina è in grado di imitare perfettamente, svalutandone valore e originalità. Un disastro, per il lavoro creativo professionale: perché commissionare un’opera a un artista, quando basta un’intelligenza artificiale per riceverla quasi identica sul proprio computer?
In teoria gli artisti sono difesi dalle leggi sulla proprietà intellettuale e ormai molte piattaforme di intelligenza artificiale si dichiarano disposte a rinunciare ai contenuti che gli artisti non intendono condividere. «Oggi – scrivono però i ricercatori – non c’è alcun modo affidabile per verificare se questi diritti vengono violati. L’asimmetria di potere tra le società che sviluppano e allenano le intelligenze artificiali e i produttori di contenuti che tentano di proteggere la proprietà intellettuale è sempre più evidente».

SULLA CARTA, per rintuzzare l’attacco all’arte dell’intelligenza artificiale basterebbe disseminare il web di immagini e descrizioni deliberatamente ingannevoli, cosicché il computer sia indotto a associare un concetto a una figura che non gli corrisponde e vada in confusione. Ma non è facile come sembra: per reindirizzare le associazioni logiche di una macchina già allenata da miliardi di dati occorre una mole di informazioni alterate paragonabile a quella originale. In più, basta un controllo umano per eliminare una sorgente di dati fallaci e proteggere l’intelligenza artificiale da fonti poco affidabili.
Tuttavia, Zhao e colleghi hanno scoperto che per ingannare la macchina bastano pochi pixel invisibili a un filtro umano inseriti nel punto giusto. Inoltre, se compromettere un’intera intelligenza artificiale è sostanzialmente impossibile, farlo su alcuni argomenti mirati – ad esempio, quelli che riguardano un artista in particolare – è assai più facile. L’analisi statistica delle fonti usate per l’allenamento mostra infatti che l’apprendimento di ogni singolo concetto è basato su un numero relativamente piccolo di informazioni, che dunque può essere «contaminato» inducendo in errore il sistema su argomenti selezionati. L’algoritmo sviluppato dai ricercatori di Chicago si chiama «nightshade» – il nome inglese della pianta velenosa «belladonna» – e si dimostra molto efficace: una trentina di immagini alterate in modo impercettibile bastano perché alla richiesta di un’immagine di un cane l’intelligenza artificiale si confonda e risponda con un bel gattone, rivelandosi inservibile.

L’OBIETTIVO È CHIARO: il rischio di imbattersi in immagini avvelenate capaci di farla deragliare, potrebbe convincere l’intelligenza artificiale a caccia di dati a muoversi con maggiore cautela, rispettando le richieste degli artisti che non vogliono che la propria creatività sia usata gratuitamente per allenare un’intelligenza artificiale. «Ogni produttore studio cinematografico, sviluppatore di videogame, artista indipendente – scrivono i ricercatori – potrebbe operare un avvelenamento mirato delle proprie immagini e magari coordinarsi con altri proprietari su concetti condivisi: la Disney potrebbe applicare Nightshade alle immagini di Cenerentola di sua proprietà, e coordinarsi con altri per l’avvelenamento del concetto più ampio di “sirenetta”». Cara intelligenza artificiale, la mela stregata è servita.

*

SCHEDE

• Scimpanzé in menopausa

La sopravvivenza dell’organismo anche dopo l’età riproduttiva non è facilmente spiegabile su base puramente evolutiva, perché non favorisce la diffusione del patrimonio genetico individuale. Fino a poco tempo fa si riteneva che la menopausa fosse una caratteristica esclusiva dell’Homo sapiens. Di recente si è scoperto che la menopausa si osserva anche tra le orche. Uno studio sull’ultimo numero della rivista «Science» realizzato dai ricercatori dell’università dell’Arizona rivela che anche gli scimpanzé ugandesi vanno in menopausa secondo un «orologio biologico» simile a quello umano. Secondo un’ipotesi, in queste specie caratterizzate da un’organizzazione sociale complessa le femmine in menopausa svolgono un ruolo utile alla comunità di cui beneficiano in termini di sopravvivenza anche gli individui più giovani. (An. Cap.)

 

 

*

• Le trecento facce dei gatti

Al contrario dell’opinione diffusa, i gatti possono comunicare tra loro attraverso poco meno di trecento espressioni facciali. Cioè quasi quante quelle degli scimpanzé, i primati a noi geneticamente più vicini e simili. Lo rivela una ricerca dell’Università della California di Los Angeles sulla rivista «Behavioural Process» di novembre. Lo studio è stato realizzato filmando i gatti del «Catcafè Lounge» (Los Angeles), dove i clienti possono interagire con gli animali. Il gatto domestico è un animale sociale che può formare colonie composte da centinaia di animali. Il gatto selvatico, invece, è una specie solitaria. Si ritiene dunque che la necessità di comunicare con le espressioni facciali sia una conseguenza dell’interazione tra felini e umani iniziata circa diecimila anni fa. Non è ancora chiaro se sia stato l’essere umano ad addomesticare il gatto o viceversa. (An. Cap.)

 

 

*

• Zanzare modificate contro la dengue

La diffusione di zanzare deliberatamente infettate con il batterio Wolbachia ha nettamente diminuito la circolazione del virus della dengue nelle città colombiane di Bello, Medellin e Itaguì. Sono i risultati preliminari di un esperimento realizzato dal World Mosquito Program (Wmp), un’organizzazione no-profit dedita alla lotta contro le malattie infettive trasmesse dalle zanzare. I ricercatori del Wmp hanno appositamente contagiato le zanzare con il batterio e le hanno diffuse nelle tre città. Le zanzare portatrici del batterio perdono la capacità di trasmettere il virus e sostituiscono gradualmente le zanzare locali. Grazie a questo intervento, l’incidenza della dengue è calata di oltre il 90%. I risultati sono stati presentati al congresso annuale della American Society of Tropical Medicine and Hygiene che si è svolto a Chicago (Usa). (An. Cap.)