Le Intelligenze Artificiali strutturate su reti neurali potentissime che conferiscono le ben note proprietà dei Large Language Models sono state oggetto, oltre che di meritate lodi, anche di critiche basate in particolare sugli errori e sulle “ allucinazioni”.
Vi è tuttavia un grave limite intrinseco evidenziato e correttamente criticato da una grande filosofa britannica, Miranda Fricker(1) nel “lontano” 2007 e sviluppato e diffuso in Francia ed ora in Italia da Gloria Origgi filosofa italiana poco apprezzata in patria ma molto in Francia.
Sintetizziamo un interessante articolo della Origgi, che riteniamo approfondisca le corrette riflessioni della Fricker, aggiornandole alla nuova era dei LLM.

Per comprendere meglio le riflessioni delle due filosofe, ed ovviamente individuarne limiti ed eventuali errori è necessario definire un concetto base della Fricker, ovvero “La ingiustizia epistemica”, teorizzata dalla filosofa nel 2007, che è una forma di ingiustizia che colpisce un soggetto nella sua capacità di conoscere e trasmettere sapere, a causa di pregiudizi sociali. Fricker ne identifica due tipi principali: l'ingiustizia testimoniale (deficit di credibilità per pregiudizio) e quella ermeneutica (mancanza di risorse interpretative collettive per comprendere un'esperienza). La Ingiustizia Testimoniale si verifica quando un ascoltatore assegna un livello di credibilità "inferiore" alle parole di un parlante a causa di un pregiudizio, spesso legato a identità sociali (genere, razza, classe). (Esempio: non credere a una testimonianza a causa del genere o della etnia del testimone). La Ingiustizia Ermeneutica avviene quando una lacuna nel bagaglio concettuale collettivo impedisce a un soggetto di dare senso alla propria esperienza. Esempio storico: l'assenza del concetto di "molestie sessuali" prima degli anni '70, impediva alle donne di etichettare e denunciare tali atti, così come la assenza di riconoscimento dei pregiudizi razziali in molti paesi porta a non riconoscere discriminazioni ed ingiustizie di vario genere e tipo…

Il cuore dell’articolo di Gloria Origgi può essere riassunto in una tesi forte: il potere dell’intelligenza artificiale non consiste soltanto nel raccogliere, possedere o controllare dati, ma nel controllare i significati che quei dati assumono nella vita sociale.
Questo è il punto decisivo. Un dato, di per sé, non “parla”: diventa rilevante quando viene interpretato, classificato, collegato ad altri dati, trasformato in profilo, previsione, raccomandazione o decisione. L’IA non si limita dunque a osservare la realtà: contribuisce a definirla, perché stabilisce categorie, produce etichette, attribuisce probabilità, costruisce identità operative. In questo senso controllare i significati vuol dire influenzare il modo in cui una società comprende le persone, distribuisce opportunità, riconosce diritti, assegna responsabilità e produce esclusione.
L’articolo parte da un confronto implicito tra due rivoluzioni digitali. La prima è stata quella del web e di Google: l’accesso all’informazione sembrava ampliarsi enormemente, liberando tempo, energie e possibilità di ricerca.
La seconda è quella degli LLM e dell’IA generativa, che non si limita più a cercare informazioni, ma conversa, interpreta, sintetizza, produce testi, immagini, classificazioni e decisioni. La tentazione è vedere in questa nuova fase una frattura assoluta, quasi l’arrivo di “alieni intelligentissimi” capaci di sostituire il lavoro umano e governare le nostre società. Origgi però invita a spostare l’attenzione: il problema non nasce solo oggi con ChatGPT o con i modelli generativi. Esisteva già prima, nella progressiva integrazione degli algoritmi in ogni dimensione della vita sociale.

La questione centrale è: che cosa controllano davvero questi sistemi? Non solo dati, non solo decisioni, ma i criteri stessi con cui diamo senso alla realtà.
Per chiarire questo punto, l’autrice ricorre al concetto di ingiustizia ermeneutica, elaborato dalla filosofa Miranda Fricker. L’ingiustizia ermeneutica si verifica quando una persona vive un’esperienza di disagio, torto o esclusione, ma non dispone delle parole, delle categorie o dei concetti socialmente riconosciuti per comprenderla e farla comprendere agli altri. È una forma di ingiustizia epistemica: riguarda cioè la nostra capacità di conoscere, interpretare e comunicare la realtà. Se una società non possiede le risorse concettuali per nominare una certa esperienza, chi la subisce resta in una posizione di impotenza: sente che qualcosa non va, ma non riesce a tradurlo in una comprensione ed in una reazione adeguata e riconosciuta.