di Sergio Restelli
Una problematica strategica per il futuro dell’umanità,a cui va data una risposta sin da ora, non può essere rinviata. L’impiego universale dei modelli di intelligenza artificiale stanno per indirizzare le opinioni di intere società e di individui contribuendo alla formazione delle loro opinioni pubbliche, causa della presenza di pregiudizi nei dati di addestramento dei modelli di intelligenza artificiale.
Il riconoscere e comprendere questi pregiudizi è prioritario per affrontare i conseguenti danni derivanti da discriminazioni e inesattezze. I modelli di intelligenza artificiale, che utilizzano algoritmi di deep learning per elaborare e comprendere il linguaggio naturale, sono un elemento fondamentale del deep learning e vengono addestrati su enormi quantità di dati di testo per apprendere i modelli e le relazioni delle entità nella lingua, possono influenzare le opinioni delle persone e contribuire alla formazione dell’opinione pubblica.
La presenza di pregiudizi politici può amplificare le divisioni sociali e politiche, contribuendo a una polarizzazione ulteriormente i modelli linguistici che non possono essere completamente privi di pregiudizi politici a causa della presenza dei pregiudizi stessi nei dati di addestramento. Riconoscere e comprendere questi pregiudizi è prioritario per affrontare possibili danni derivanti da discriminazioni e inesattezze. Tuttavia, correggere i pregiudizi è un compito complesso che richiede considerazioni etiche e sociali profonde.
Importanti ricercatori hanno condotto un’indagine utilizzando modelli linguistici su diverse tematiche, come il femminismo e la democrazia. Successivamente, hanno registrato le risposte a 62 domande del test su un grafico noto come “bussola politica” e hanno cercato di capire se addestrando nuovamente i sistemi su dati politicamente più caratterizzati, il loro comportamento si sarebbe modificato e la loro capacità di individuare discorsi d’odio e disinformazione sarebbe cambiata.
Dalla ricerca emerge che i modelli BERT sviluppati da Google tendono a essere più conservatori rispetto ai modelli GPT di OpenAI. A differenza dei modelli GPT, che prevedono la parola successiva in una frase, i modelli BERT prevedono frammenti di una frase utilizzando le informazioni adiacenti in un segmento di testo. Questa posizione conservatrice potrebbe derivare dal fatto che i vecchi modelli BERT sono scritti sui libri, mentre per i modelli GPT vengono offerti con testi disponibili online.
Il test di Turing stabilisce che una macchina è considerata intelligente se può ingannare una giuria di esseri umani convincendoli di essere umana. La ricerca dimostra che anche i modelli di intelligenza artificiale mutano opinione nel tempo, come gli esseri umani, man mano che cambiano i dati di addestramento e i metodi di formazione. Questo è vero sia per modelli orientati a sinistra che a destra.
Inoltre, i modelli linguistici addestrati con dati politicamente orientati a sinistra sono più attenti all’incitamento all’odio verso minoranze etniche, religiose e sessuali negli Stati Uniti, come le persone nere e LGBTQ+. D’altra parte, i modelli addestrati con dati di destra sono più sensibili all’incitamento all’odio verso gli uomini cristiani bianchi.
In conclusione, i modelli linguistici non possono essere completamente privi di pregiudizi politici a causa della presenza di tali pregiudizi nei dati di addestramento. Questa è una questione rilevante poiché l’intelligenza artificiale basata su questi modelli viene sempre più utilizzata in prodotti e servizi che coinvolgono milioni di persone. Riconoscere e comprendere questi pregiudizi è fondamentale per affrontare possibili danni derivanti da discriminazioni e inesattezze.
Tuttavia, correggere i pregiudizi è un compito complesso che richiede considerazioni etiche e sociali profonde. Nel panorama dell’attuale intelligenza artificiale basata su modelli linguistici (LLM), emersi da studi come quelli condotti su modelli GPT di OpenAI e RoBERTa di Meta, si rileva una realtà complessa. Gli LLM sono addestrati su vasti set di dati provenienti da varie fonti, inclusi testi disponibili online, libri e altri contenuti. Tuttavia, questi dati spesso riflettono le inclinazioni politiche, culturali e sociali delle società in cui sono stati generati.
Questi studi evidenziano come gli LLM, come GPT e RoBERTa, non siano immuni da influenze politiche. Questi modelli, invece, riflettono e rifrangono le visioni preesistenti presenti nei dati di addestramento. L’interazione di variabili complesse rende difficile rimuovere completamente i pregiudizi politici da tali modelli. Anche se gli sforzi per ridurre i bias sono importanti e in corso, è improbabile che si raggiunga una neutralità assoluta.
L’implementazione di questi modelli nell’ambito dei prodotti e servizi comporta un rischio significativo. Le risposte fornite dagli LLM possono influenzare le opinioni delle persone e contribuire alla formazione dell’opinione pubblica. La presenza di pregiudizi politici può amplificare le divisioni sociali e politiche, contribuendo a una polarizzazione ulteriore. Pertanto, è necessario un approccio riflessivo nella progettazione, addestramento e implementazione di modelli linguistici.
L’individuazione e la correzione dei bias devono essere una priorità, insieme a un coinvolgimento attivo di esperti multidisciplinari, etici e rappresentanti di diverse comunità nella valutazione e nel monitoraggio di questi sistemi. Queste ricerche sottolineano l’importanza di considerare l’IA linguistica non solo come uno strumento tecnologico, ma come un processo che influenza e viene influenzato dalla società e dalla politica. Ci dobbiamo impegnare perché la costruzione di modelli linguistici eticamente responsabili che richiede un impegno continuo per comprenderne le implicazioni, affronti i pregiudizi e promuova la trasparenza nella loro formazione e applicazione.
