“Il rapido progresso dell’intelligenza artificiale (AI) ha implicazioni di vasta portata in molteplici ambiti, compresa la preoccupazione per il potenziale sviluppo di armi biologiche”.
L’affermazione è di uno studio del team di Christopher A.Mouton, Caleb Lucas e Ella Guest di Rand corporation, un think tank statunitense, fondato nel 1946 con il sostegno finanziario del Dipartimento della Difesa statunitense e presente dal 1992 in Europa attraverso la controllata RAND Europe.
“Questa potenziale applicazione dell’IA – prosegue lo studio – solleva particolari preoccupazioni perché è accessibile ad attori e individui non statali. La velocità con cui le tecnologie di intelligenza artificiale si evolvono spesso supera la capacità di supervisione normativa del governo, portando a un potenziale divario nelle politiche e nelle normative esistenti”.
Lo studio, che sottolinea i rischi operativi dell’intelligenza artificiale negli attacchi biologici su larga scala, è partito da due domande di fondo.
La prima: “L’intelligenza artificiale – e, più specificamente, gli LLM – possono essere utilizzati in modo improprio da attori non statali nel contesto di attacchi biologici?”.
La seconda: “Quali sono le strade future per la ricerca sull’uso improprio dell’intelligenza artificiale e del LLM in questo contesto?”.
LLM, acronimo di Large Language Model, è un modello di apprendimento automatico di intelligenza artificiale specializzato nella comprensione e nella generazione di testo naturale. Questi modelli sono formati con tecniche di apprendimento profondo su enormi quantità di dati testuali e utilizzano reti neurali complesse per analizzare e produrre testo in modo che sembri il più naturale possibile. Essi sono in grado di svolgere una varietà di compiti legati al linguaggio: traduzione, riassunto, generazione di testo, risposta a domande.
Nel rapporto, reso noto dal Rand, gli autori, si legge, “condividono i risultati finali di uno studio sui potenziali rischi derivanti dall’utilizzo di modelli linguistici di grandi dimensioni (LLM) nel contesto di attacchi con armi biologiche. Hanno condotto un esercizio esperto in cui team di ricercatori che interpretavano attori non statali maligni sono stati assegnati a scenari realistici e incaricati di pianificare un attacco biologico; alcuni team avevano accesso a un LLM insieme a Internet, mentre ad altri veniva fornito solo l’accesso a Internet. Gli autori hanno cercato di identificare i potenziali rischi posti dall’uso improprio del LLM, generare approfondimenti politici per mitigare eventuali rischi e contribuire allo sviluppo responsabile del LLM. I risultati indicano che l’utilizzo della generazione esistente di LLM non ha modificato in modo misurabile il rischio operativo di un simile attacco”.
La ricerca, che coinvolge più LLM, secondo lo studio di rand “indica che la pianificazione degli attacchi con armi biologiche attualmente si trova oltre la frontiera delle capacità degli LLM come strumenti di assistenza. Gli autori non hanno riscontrato differenze statisticamente significative nella fattibilità dei piani generati con o senza assistenza LLM. Questa ricerca non ha misurato la distanza tra la frontiera delle capacità LLM esistente e la conoscenza necessaria per la pianificazione di attacchi con armi biologiche”.
Tuttavia, data la rapida evoluzione dell’intelligenza artificiale, la Rand scrive che “è prudente monitorare gli sviluppi futuri della tecnologia LLM e i potenziali rischi associati alla sua applicazione alla pianificazione degli attacchi con armi biologiche”.
