Nuove fragilità tra IA e difesa della pace

Il ruolo di ENIA, l’Ente nazionale per l’intelligenza artificiale

Il tema delle fragilità e della loro tutela, della massima importanza, è sempre stato al centro di tutte le culture che si basano sulla solidarietà reale e non formale.

Oggi ci sono nuovi tipi di instabilità molto complessi, che soverchiano vecchi schemi; in altre parole, oltre alle antiche debolezze, che riguardano speciali categorie deboli, la situazione attuale rende precarie e, quindi, fragili, molte altre categorie di persone, spesso addirittura insospettabili.

Quali sono le recenti condizioni che determinano nuove vulnerabilità?

In primo luogo, dobbiamo prendere in esame l’intelligenza artificiale, la quale investirà moltissimi settori, mettendone a rischio l’occupazione e, quindi, rendendo incerte tante posizioni di lavoro che, fino a pochissimo tempo fa, si ritenevano solide e non sostituibili.

Tra le categorie esposte rientrano anche tutte quelle a cui viene imposto di utilizzare l’intelligenza artificiale e certi servizi informatici senza dar loro la necessaria formazione, che vengono gettate allo sbaraglio in modo impietoso e, quindi, andrebbero tutelate in modo specifico.

Al tema dell’IA si aggiunge il nuovo rischio costituito dalla situazione geopolitica estremamente oscillante e, dunque, dalle minacce alla pace. Questi due fattori sono legati tra di loro, come adesso vedremo.

Dobbiamo fare una breve rassegna del tema della pace, che ha subito molte modifiche negli ultimi tempi. È un’antichissima aspirazione dell’umanità, sempre delusa, ma, negli ultimi ottant’anni, era riferita soprattutto al tema del rischio dell’olocausto atomico. Si temeva, cioè, che un nuovo conflitto potesse sfociare in una guerra atomica capace di spazzare via l’umanità.

La Guerra fredda è stata un momento di equilibrio, precario sì, ma comunque in qualche modo valido. Per preservare il mondo dal rischio della catastrofe atomica e pur in presenza di molte guerre locali si è costruito, in qualche modo, un periodo di pace relativa.

Con il riferimento al pericolo della guerra atomica gli organismi internazionali da una parte hanno assicurato un luogo di confronto tra i blocchi e, dall’altra, sono intervenuti cercando, per quanto possibile, di limitarne gli effetti negativi sulle popolazioni.

Non è mai stata una situazione ottimale ma, in una certa misura, si è preservato il mondo da catastrofici scontri generali e, pertanto, dal rischio di un conflitto atomico.

Dopo la fine del blocco sovietico sono emerse scelte culturali che hanno cambiato molto profondamente tale quadro.

È nata la teoria della cancel culture, la teoria della fine della storia, perché ormai tutti si sarebbero ritrovati in un globalismo, reso, però, come ideologia incentrata sul mercato. L’apparenza era di una trasformazione dei conflitti in concorrenza economica, ma la realtà era molto più dura, perché la centralità del mercato, invero, era quella oligopolistica; erano, appunto, gli oligopoli a dettare le regole e i piccoli a subirle.

La nuova fase che si è aperta negli ultimi anni sta cambiando completamente tale contesto. Si parla di guerre preventive, di esportazione della democrazia e, pian piano, è stata posta quasi come normale l’ipotesi di una guerra atomica limitata alle cosiddette atomiche tattiche.

Si è pensato che l’esecrazione dell’opinione pubblica mondiale avrebbe bloccato la possibilità di una guerra atomica di sterminio, ma non si è considerato che, in caso di rottura degli equilibri, qualcuno, minacciato nella sua stessa esistenza, potrebbe avere la tentazione di scatenare una guerra atomica il cui inizio, poi, sarebbe persino difficile da provare, nel senso che potrebbero esserci delle provocazioni per attribuire la prima mossa sempre alla parte avversa.

Ed ecco che entra in gioco il tema della deterrenza.

Essa è stata il criterio che ha assicurato la pace, pur temporanea, durante tutto il periodo della Guerra fredda; gli accordi internazionali per il disarmo prevedevano piuttosto la limitazione degli armamenti ed erano basati sulla prevedibilità della risposta di ciascuna delle parti e, quindi, sul fatto di poter riflettere nel momento di tensione massima prima di spingere il bottone di un’inevitabile catastrofe atomica.

Tutto questo è stato superato, in primo luogo, dalla tecnologia, che, ammettendo forme intermedie di armamenti atomici, tecnologie missilistiche ibride e altre innovazioni, tra cui le armi a conduzione IA, hanno reso obsoleta la distinzione tra missili balistici e di crociera e gran parte dei trattati internazionali.

A tale instabilità tecnologica si è aggiunta la cancellazione del principio di non ingerenza nelle scelte politiche e culturali dei vari Paesi. La motivazione di esportare la democrazia e l’ingerenza ha giustificato guerre cosiddette umanitarie, che, pian piano e quasi insensibilmente, hanno preparato il terreno a un diffuso stato di tensione e insicurezza perché ciascuno può giustificare le proprie intromissioni, la propria diffusione di valori e i propri interessi economici. Petrolio e materie prime, infatti, hanno messo in forte dubbio la finalità umanitaria sbandierata ma sovrastata dall’appropriazione dei beni dei Paesi investiti da queste guerre apparentemente umanitarie.

Vi è poi un ulteriore aspetto che in questa sede accenniamo appena, il duplice impatto che la situazione geopolitica – leggasi guerra mondiale – e l’intelligenza artificiale hanno sulla comunicazione, interferendo con essa.

Su questo tema, che merita massimo approfondimento, ci stiamo impegnando come Comitato scientifico della Comunicazione audiovisiva della REA, perché se la guerra distorce la comunicazione, la volge in propaganda e schiaccia il pluralismo con la famosa scusa del “taci, il nemico ti ascolta”, anche l’IA la piega alle sue regole e può squilibrare fortemente la libertà e il pluralismo a favore di un conformismo di massa legato al concetto di onniscienza artificiale; ecco perché le fragilità dell’informazione libera vengono amplificate in massimo grado fino ad annebbiare il concetto stesso di libertà e democrazia.

Su questo processo, che già da solo ha sgretolato il precedente status quo, è intervenuto pesantemente il tema dell’intelligenza artificiale. Perché questa tematica è così decisiva?

Perché l’IA, accelerando e automatizzando i processi di risposta alle minacce, in realtà, sottrae i tempi di riflessione le decisioni alla responsabilità umana.

Finora quest’equivoco è stato gestito parlando di danni collaterali e bombardamenti intelligenti, ma tale schermo verbale non può rassicurare, perché se l’IA, intravedendo un rischio, magari grave, per rapidità di esigenze difensive dovesse far scattare una risposta di tipo nucleare è chiaro che il mondo precipiterebbe in pochissimi istanti in una catastrofe.

In un contesto di escalation incontrollabile non ci sarebbe il tempo di analisi e mediazione umana.

Una condizione simile in campo finanziario si è verificata nella crisi economica del 2029, quando gli automatismi di risposta hanno accelerato e aggravato la situazione proprio per la simultaneità delle decisioni.

Un effetto panico generale che, se ha causato danni in campo finanziario e di conflitti militari, ne può fare di ben più gravi. Ecco perché l’intelligenza artificiale diventa un acceleratore di questi processi, che rendono minimo il controllo umano.

In altre parole, l’irruzione dell’intelligenza artificiale nella guerra ha determinato delle  novità. Da un lato, l’IA è diventata un mezzo di supremazia geopolitica, risulta quindi difficile, per non dire impossibile, una regolamentazione a livello internazionale se ciascuna delle parti ritiene sia uno strumento strategico di potere; dall’altro, il suo l’intervento è automatico e rende difficile una supervisione da parte dell’essere umano.

Ma, soprattutto, l’intelligenza artificiale non ha le stesse remore dell’individuo – paura della morte, della fine dell’umanità, di una catastrofe atomica – ragiona per automatismi, e non ci sono quindi correttivi credibili se prende in mano delle decisioni così importanti.

In tale meccanismo sono coinvolte non solo la decisione finale di premere il bottone atomico, ma anche quelle che portano a tale eventualità possono essere tanto veloci e demandate l’intelligenza artificiale da rendere inevitabile l’ultima scelta.

Nel panorama delineato c’è un ulteriore azzardo, ancor più serio e irrevocabile: l’autonomizzazione dell’intelligenza artificiale e la possibilità, data la potenza e l’immediatezza di calcolo, che l’IA possa sfuggire definitivamente alla verifica dell’uomo.

Questo timore serpeggia in molti e non è irrilevante, anzi, è la sfida più grande che l’intelligenza umana abbia avuto da 100 mila anni.

L’individuo, anche quando debolissimo e in balia delle forze della natura, è sempre stato più perspicace di tutte le specie viventi e, proprio per questo, ha superato mille difficoltà e pericoli serissimi, quali pestilenze, carestie, genocidi, tsunami, diluvi universali…

Ora la sfida è assoluta, per la prima volta c’è la possibilità di un’intelligenza superiore a quella umana per sveltezza, memoria, potenza di calcolo; ecco, quindi, che la probabilità che possa sfuggire di mano è paventata da molti scienziati.

Tale ipotesi non può essere sottovalutata, né ignorata; non vogliamo attardarci in ragionamenti paradossali come quelli sull’autocoscienza, perché il confronto si gioca su azione e decisioni.

Ecco l’esigente urgenza di regolamentare l’IA e il suo uso etico.

Si apre, a questo punto, un territorio sconfinato di riflessioni e tesi che non vogliamo assolutamente ridurre nei brevi limiti di questo articolo, ma che sono materia di riflessione dell’ENIA, l’Ente nazionale per l’intelligenza artificiale, di cui faccio parte come membro del Consiglio di Presidenza e Presidente del Salotto dell’intelligenza artificiale.

In questa sede ci limitiamo a dire che le ipotesi di regolamentazione dell’IA si scontrano con due limiti che intrecciano i temi fin qui svolti: il dual use dell’IA, militare e civile, sostanzialmente intercambiabili.

Su questo scenario, già di per sé complesso, incombe il tema del conflitto in atto, seppur negato con l’indicazione di battaglie locali su singoli teatri di guerra di uno scontro mondiale già in atto, anche se ufficialmente negato.

Sarebbe un buon esercizio chiedersi le ragioni di questa negazione, ma il discorso ci porterebbe lontano, quindi lo accantoniamo.

Tralasciamo anche un secondo tema importantissimo, che enunciamo solamente per sottolineare la sua importanza strategica e filosofica a livello geopolitico: la regolamentazione dell’IA può essere fatta solo a livello giuridico o va inevitabilmente  integrata con un vincolo etico, cioè una regola contenutistica interna e non solo formale e, in questo caso, non deve necessariamente essere presente la pace.

La regolamentazione dell’IA o sarà a livello internazionale o sarà solo fittizia, perché resterà sempre l’ombra del doppio uso militare e civile, con la conseguente impossibilità in questo clima di disciplinarla senza la pace, poiché ciascuna parte avrebbe sempre il dubbio che, in segreto, gli altri potrebbero superare il limite.

Appare sempre più concreta la possibilità che l’IA sfugga al controllo umano, diventi autonoma o cada in mano a ristrette élite malintenzionate, quelle che ci vengono descritte come illuminate, ma illuminate non sono; ecco perché oggi la pace diventa ancor più indispensabile che nel passato.

Separare il rischio dell’IA dal tema della pace è un errore assoluto, esattamente come è un errore assoluto, o un equivoco voluto, immaginare un’etica dell’IA senza la pace.

Per tutti questi motivi l’ENIA si batte per la regolamentazione internazionale dell’intelligenza artificiale e per rafforzare il controllo umano.

Scelta di pace che, se vogliamo vincere questa sfida epocale, non è pacifismo ottimistico, ma realistica consapevolezza che bisogna trovare formule di dialogo sui punti centrali dei diritti umani e della collettività.

Ecco perche abbiamo proposto di chiamare NEOEVO l’età dell’intelligenza artificiale, per sottolineare plasticamente che siamo a uno snodo essenziale nella storia e nella civiltà umana. E l’esito è assolutamente incerto, ma anche decisivo.

L’ENIA è schierata per la pace, ma, soprattutto, per l’impegno a diffondere un’adeguata conoscenza tra i cittadini dei pericoli che una situazione di conflitto permanente ed esasperato può avere sullo sviluppo dell’IA, che, per altri versi, invece, potrebbe portare dei grandi vantaggi a tutti.

A tal proposito l’ENIA sta sviluppando progetti educativi e formativi che coniugano il dialogo, la pace e l’etica nell’IA, come, ad esempio, quello delle giurie di comunità, che cerca di dare voce ai deboli in un campo in cui operano soggetti fortissimi.

Un tentativo innovativo e collettivo di creare strumenti di tutela per la gente, non legato unicamente al potere di mercato che, invece, riduce la persona a homo oeconomicus e il suo agire a puro profitto, e a un’interpretazione economicistica che smentisce la retorica dei cosiddetti valori umani, laddove la difesa è affidata al solo metro della ricchezza, cioè una visione rigidamente classista a pro dei super ricchi.

Difatti l’ENIA ha sottoscritto un accordo proprio con Unipace, l’università dell’ONU intitolata alla pace, imperniato sui temi dell’IA.

A questo punto dobbiamo tornare a chiederci se sia ammissibile un’etica che non comprenda in prima linea il concetto di pace. Noi riteniamo di no e che non si possa chiamare etica un qualcosa che, tra le sue regole, non mette in prima linea la pace, perché il rischio è davvero troppo grande.

Una partita a scacchi con l’apocalisse di cui abbiamo parlato nei libri che compongono la saga del NEOEVO.