Se l’intelligenza artificiale diventa un archivio creativo

Nel libro di Gino Roncaglia L’architetto e l’oracolo (Laterza, pp. 226, euro 19) si ipotizza che stiamo attraversando una trasformazione nelle tecniche di conservazione delle conoscenze, dipendente da nuovi dispositivi come le intelligenze artificiali generative, del tipo di ChatGPT (OpenAI e Microsoft), Bard (Google), Claude (Anthropic), LLaMa (Meta) e altri. Sarebbero loro i nuovi oracoli, capaci di mettere ordine nel disordine complesso dei dati digitalizzati.

SONO MOLTI I TEMI del ricco volume, ma la tesi principale è che il digitale, dopo la frammentazione, potrebbe generare un nuovo strato di contenuti che complicherebbe invece di frammentare l’orizzonte delle informazioni disponibili. Tale ingente aumento metterebbe in crisi il metodo che abbiamo ereditato per strutturare il sapere nei secoli, basato sull’architettura, cioè quello che prevede un’organizzazione esplicita e categorica dei contenuti, esemplificato nell’enciclopedia e a tratti nella biblioteca. L’aumento costante ed esponenziale dei meccanismi di registrazione delle informazioni e, quindi, una progressiva esternalizzazione della memoria esperienziale e storica potrebbe chiamare in causa l’oracolo – uno strumento incarnato dai sistemi offerti dall’intelligenza artificiale generativa, capaci di raccapezzarsi nella disponibilità illimitata di informazioni disorganizzate.
La biblioteca e l’archivio, strumenti dell’architetto, potrebbero, però, offrire in questo quadro di transizione un potenziale nuovo terreno nel quale collaborare con l’oracolo per rispondere alle nuove sfide della complessità, conseguenza dei meccanismi di registrazione delle attività e dei pensieri che si offrono in sostituzione del processo selettivo e ricostruttivo della memoria umana.

UNA VOLTA discusso della trasformazione digitale dell’enciclopedia, si passa a esaminare le capacità dell’oracolo di costruire testi sensati a partire dal prompt degli utenti, un fenomeno che costituisce sicuramente un passaggio epocale, straniandoci dalla convinzione che solo gli esseri umani siano in grado di maneggiare creativamente il linguaggio. A fronte di una complessa struttura tecnica che si nutre dei dati dei corpora di testi messi a disposizione, i sistemi generativi sanno rispondere in modo sensato e relativamente creativo, partecipando alle nostre conversazioni.

ALAN TURING considerava la capacità dialogica come un processo da esibire in sostituzione della questione insolubile su se le macchine possano pensare. La sua tesi ipotizzava di concentrarsi sulla loro performatività conversazionale, convinto che gli esseri umani proiettino sull’altro – umano o macchinico – il proprio desiderio di entrare in relazione. Complice l’ignoranza dei metodi adottati nell’addestramento, non siamo troppo interessati a comprendere le regole automatiche della conversazione.
La tesi del volume è che invece la complessità dei corpora e dei sistemi di addestramento sia in grado di fornire ai sistemi tecnici oracolari delle proprietà emergenti che possano corrispondere a qualcosa che, se riferita agli esseri umani, avrebbe a che fare con l’intelligenza. Inoltre, suggerisce che, studiando i metodi probabilistici che la macchina usa, potremmo anche scoprire come funzioni la capacità linguistica umana. Non si nasconde che si possano verificare le cosiddette «allucinazioni» del sistema e che a causa del consolidamento dei corpora usati per l’addestramento, siamo in presenza di scelte pregiudiziali che potrebbero dare luogo a discriminazione, ma ciò non si traduce in una sfiducia nei progressi a lungo termine, ritenendo che si eviteranno gli esiti più controversi.
Nel volume è inclusa anche una parte dedicata agli esperimenti di esternalizzazione della memoria umana e collettiva, avveniristici e perturbanti, oltre a una quarta sezione che interpreta testi di fantascienza che preconizzano questa trasformazione dell’architetto nell’oracolo, o un loro futuro sodalizio.
Il libro è dotato di un apparato di note fondamentale per esplorare ulteriormente i temi trattati e riesce a rendere una ricerca documentale molto approfondita sempre comprensibile, senza rinunciare ai concetti più tecnici e impervi.

IL PASSAGGIO dall’architetto all’oracolo, di cui si parla nel libro, non riguarda, però, solo l’organizzazione della conoscenza acquisita. Enciclopedie, archivi e biblioteche al centro della trattazione sono gli strumenti della conservazione del sapere. Ma anche l’attività della ricerca si sta trasformando in senso oracolare. Tale passaggio potrebbe lasciare sul campo della sconfitta non solo le capacità organizzative dell’architetto, ma anche i criteri di validazione intersoggettiva che hanno permesso lo sviluppo della scienza moderna, come la conosciamo.
Se la complessità delle informazioni sarà maneggiata solo attraverso sistemi sociotecnici, per giunta proprietari, ciò potrebbe significare la rinuncia alla mediazione umana nella definizione dei criteri di validazione e accreditamento delle conoscenze, e accettare il fatto che l’autorità scientifica sia nelle mani di chi governa, programma e ottimizza i sistemi oracolari, indipendentemente dall’expertise disciplinare. Inoltre, gli oracoli di cui parliamo si limitano a interpretare i testi, ovvero a estrarre significati da corpora standardizzati e selezionati dall’Occidente avanzato. E sappiamo che non tutte le conoscenze si trovano leggendo quei testi.