La distopia dell’Iowa: ChatGpt censura i libri

Ventimila abitanti, un anonimo e microscopico puntino sulla cartina dell’Iowa, anche se si fregia di essere capoluogo di contea. Di una contea altrettanto anonima e introvabile. Ventimila abitanti al novantacinque per cento bianchi. Eppure Mason City, minuscolo capoluogo della contea di Cerro Gordo – semplicemente “grosso colle” in spagnolo – può ora vantarsi di aver realizzato due distopie.

Contemporaneamente: ha messo al bando dalle biblioteche delle scuole del suo distretto, diciannove libri. Compreso Beloved – Amatissima, nella traduzione italiana – di Toni Morrison, scrittrice, nobel per la letteratura esattamente trent’anni fa.

Ma se l’esclusione di testi dalla disponibilità degli studenti non fa più notizia se proviene da alcuni stati dell’America dove è in corso una vera e propria caccia alle streghe, fa scalpore il metodo scelto dalle autorità di Mason City per censurare i libri: ci si è rivolti all’intelligenza artificiale. Si è lasciato decidere all’ormai famosissima ChatGpt che nel giro di pochi secondi ha emesso le sue sentenze. Inappellabili.

COME DETTO, non tutte le colpe sono dei membri del Mason City Community School District, l’organismo che decide le politiche locali per la scuola. Tutto nasce dalla maggioranza repubblicana che poco prima dell’estate – a maggio – ha varato una «riforma dell’istruzione nell’Iowa».

Seguendo l’onda di tutti gli stati conservatori, anche quello guidato da Kim Reynolds ha deciso che occorreva vagliare e censurare i contenuti proposti agli studenti, evitando loro qualsiasi riferimento alla sessualità, al gender, alle culture non omologate. E nel mirino sono finite anche le biblioteche, con un generico invito a togliere dagli scaffali tutto ciò che ha a che fare con il sesso.

La legge è stata firmata dalla governatrice sessantaquattrenne, repubblicana che dal 2017 guida l’Iowa, sempre a maggio, un minuto dopo che era stata approvata dall’assemblea legislativa. E fra pochi giorni, nello Stato ricominciano le scuole.

CHE FARE? Senza pensare minimamente a opporsi, o almeno a provare a prender tempo, il distretto scolastico di Mason City si è riunito alla fine di luglio. «Avevamo ed abbiamo l’obbligo morale di rispettare le leggi», ha detto Bridgette Exman, la sovrintendente alle politiche dell’istruzione a un giornale locale. Con in più però un problema pratico, se così si può definire: che in meno di un mese e mezzo non sarebbe stato possibile rileggere ed esaminare tutti i libri conservati nelle biblioteche del distretto e decidere quali fare fuori.

Così il Community School District ha deciso di rivolgersi al chatbot ChatGpt, al quale si rivolge tutto il mondo perché risponde con un linguaggio che sembra umano. Sulla cui scarsa autorevolezza però ormai fioccano decine e decine di studi e testi universitari.

Ma a Mason City non sono andati tanto per il sottile. I membri della commissione hanno prima stilato un lungo elenco di libri che a loro dire potevano trattare «contenuti espliciti», poi si sono messi davanti ad un computer ed hanno chiesto all’Ia: «Secondo te in queste pagine ci sono riferimento al sesso?». Se la risposta è stata un sì, i libri sono stati tolti dagli scaffali e portati nella sede del Comune, «in attesa di conoscere la loro destinazione».

HANNO FATTO FUORI così, diciannove volumi. Del libro della scrittrice afroamericana Toni Morrison s’è detto, proprio quel libro che racconta la tragedia di una ex schiava nera che preferisce uccidere la figlia piuttosto che farle vivere una vita come la sua.

Una censura che sembra aver poco a che fare con gli obblighi di legge dell’Iowa ed investe il tema di come, con quali dati, con quali informazioni sono addestrati questi modelli linguistici basati sull’intelligenza artificiale. Tanto più che ChatGpt ha fatto spostare dagli scaffali anche I Know Why the Caged Bird Sings (Io so perché l’uccello in gabbia canta) di Maya Angelou, un’autobiografia dove l’autrice afroamericana prova a superare il trauma del razzismo e della violenza patriarcale.

Nel caso del chatbot sviluppato da OpenAi e utilizzato nel distretto di Mason City si cade comunque nel ridicolo: perché l’intelligenza artificiale ha fatto censurare, per dirne un’altra, pure The Handmad’s Tale (Il racconto dell’ancella) di Margaret Atwood, quel romanzo di fantascienza, in un mondo che non riesce più a procreare, dal quale è stata tratta una seguitissima serie televisiva. Ne hanno fatte cinque stagioni, l’ultima andata in onda l’anno scorso, disponibile per tutti, senza limiti di età.

Ed ancora più singolare: qualcuno si è preso la briga di rivolgere nuovamente la stessa domanda a ChatGpt (sulla presenza di contenuti sessuali) sugli stessi libri, ottenendo risposte diverse in alcuni casi.

Questa è l’Iowa repubblicana. Dove i guasti prodotti dall’intelligenza artificiale applicata al governo della cosa pubblica non sono in un prossimo futuro, come sostengono Musk e gli altri imprenditori del “ramo” che denunciano prospettive distopiche solo perché vorrebbero scrivere loro le regole del settore. I danni, veri, sono qui. Adesso. Nell’Iowa.