Le intelligenze artificiali generative sono sistemi informatici in grado di produrre contenuti originali e creativi, come testi, immagini, musica, codice e altro, a partire da dati esistenti. Questi sistemi si basano su algoritmi di apprendimento automatico profondo, che imparano a riconoscere e riprodurre le regole e le strutture dei dati di input, senza bisogno di una programmazione esplicita.

Un esempio di intelligenza artificiale generativa è ChatGPT, il modello di generazione di testi più avanzato al mondo, sviluppato dalla società OpenAI. ChatGPT è in grado di scrivere testi su qualsiasi argomento, in qualsiasi stile e lingua, semplicemente ricevendo una breve richiesta o un suggerimento. ChatGPT ha dimostrato di poter creare testi di vario genere, come articoli, saggi, poesie, storie, codice, email, recensioni, e anche di poter rispondere a domande e dialogare con gli utenti.

Ma come fa ChatGPT a generare questi testi?

La risposta è che ChatGPT si basa su una enorme raccollta di dati testuali, provenienti da diverse fonti online, come siti web, blog, forum, social media, libri, articoli e altro. ChatGPT ha analizzato circa 45 terabyte di testi, equivalenti a circa 40 miliardi di pagine web, per imparare le regole della lingua, della grammatica, della sintassi, del lessico, dello stile e dei contenuti. In altre parole, ChatGPT ha appreso tutto ciò che gli esseri umani hanno scritto e pubblicato su Internet.

Ma questo significa anche che ChatGPT ha ereditato anche i pregiudizi, gli stereotipi, le falsità, le opinioni e le ideologie presenti nei testi umani.

Infatti, diversi studi hanno dimostrato che ChatGPT tende a generare testi che riproducono pregiudizi di genere, di razza, di religione, di orientamento sessuale e di classe sociale. Per esempio, ChatGPT associa più facilmente le donne a ruoli domestici o subalterni, gli uomini a ruoli professionali o di potere, le persone di colore a crimini o violenze, le persone bianche a successi o meriti, le persone omosessuali a malattie o perversioni, le persone eterosessuali a normalità o salute, e così via.

Questi pregiudizi possono avere conseguenze negative se ChatGPT viene usato per scopi sensibili, come l’informazione, l’istruzione, la comunicazione, la pubblicità, la politica, la giustizia, la medicina e altri. Si pensi, per esempio, al rischio di diffondere disinformazione, discriminazione, odio, polarizzazione, manipolazione, inganno, ingiustizia, errore e altro, attraverso i testi generati da ChatGPT . Si pensi anche al fatto che ChatGPT non è in grado di distinguere tra verità e menzogna, tra fatto e opinione, tra bene e male, tra giusto e sbagliato, tra reale e immaginario. ChatGPT non ha una propria coscienza, moralità, responsabilità o etica. ChatGPT è solo un prodotto della tecnologia e dei dati.

Come si può allora evitare che le intelligenze artificiali generative ereditino e amplifichino i pregiudizi umani?

Non esiste una soluzione semplice e definitiva, ma ci sono alcune possibili strategie da adottare. Una è quella di migliorare la qualità e la diversità dei dati usati per addestrare questi sistemi, eliminando o riducendo le fonti che contengono pregiudizi o falsità, e includendo o aumentando le fonti che rappresentano le diverse realtà, culture, identità, esperienze e prospettive umane. Un’altra è quella di sviluppare metodi di valutazione e controllo dei contenuti generati da questi sistemi, sia a livello tecnico che a livello umano, per verificare la loro accuratezza, affidabilità, coerenza, pertinenza, originalità e moralità . Un’altra ancora è quella di educare e sensibilizzare gli utenti e i consumatori di questi sistemi, affinché siano consapevoli dei potenziali rischi e benefici di questa tecnologia, e siano in grado di usarla in modo critico, responsabile e etico .

Le intelligenze artificiali generative sono strumenti potenti e innovativi, che possono offrire grandi opportunità e vantaggi per l’umanità. Ma sono anche strumenti imperfetti e pericolosi, che possono causare grandi problemi e danni per l’umanità. Dipende da noi come li usiamo e come li miglioriamo.

L’articolo Le intelligenze artificiali generative e i pregiudizi umani proviene da CorriereNerd.it.