Drone russo avrebbe ucciso tre civili a Zaporižžja dopo essere stato guidato, nella fase decisiva dell’attacco, da un sistema di IA
Ci sono notizie che sembrano appartenere alla cronaca di una guerra e, invece, appartengono alla storia dell’umanità.
Quella arrivata dall’Ucraina è una di queste.
Un piccolo drone russo, apparentemente simile a tanti altri che da anni sorvolano le città ucraine, avrebbe ucciso tre civili a Zaporižžja dopo essere stato guidato, nella fase decisiva dell’attacco, da un sistema di intelligenza artificiale.
Non è soltanto il numero delle vittime a impressionarmi.
Sono tre persone.
Tre vite.
Tre storie interrotte.
Ma dietro quelle tre morti c’è qualcosa di infinitamente più grande: la progressiva separazione dell’uomo dall’atto stesso di uccidere.
Secondo l’inchiesta del New York Times e le analisi dei reperti effettuate da esperti e autorità ucraine, il drone avrebbe utilizzato un computer Nvidia Jetson Orin e sistemi di visione artificiale capaci di riconoscere oggetti e scegliere autonomamente il punto finale dell’attacco.
L’uomo avrebbe indicato l’area; la macchina avrebbe potuto decidere quale oggetto colpire.
Ed è qui che qualcosa cambia.
Fino a ieri potevamo immaginare la guerra come una terribile sequenza nella quale, per quanto tecnologicamente sofisticata, esisteva ancora un uomo davanti a uno schermo.
Un uomo che osservava.
Un uomo che identificava.
Un uomo che premeva.
Un uomo che, almeno teoricamente, poteva fermarsi.
Adesso quella distanza aumenta.
La macchina vede.
La macchina riconosce.
La macchina confronta.
La macchina decide.
E infine colpisce.
Non possiede odio.
Non possiede paura.
Non conosce pietà.
Non comprende il valore di una vita.
Non sa cosa significhi per una madre perdere un figlio o per un figlio perdere un padre.
E, proprio per questo, dobbiamo avere paura.
Perché l’intelligenza artificiale non è pericolosa quando diventa più intelligente dell’uomo.
È pericolosa quando diventa capace di agire senza avere nulla di umano dentro di sé.
La guerra in Ucraina sta diventando, sotto questo aspetto, un laboratorio terribile del futuro.
I droni hanno già trasformato il campo di battaglia. Hanno ridotto il costo dell’attacco, aumentato enormemente la quantità di mezzi impiegabili e reso possibile colpire a distanza.
Ora l’intelligenza artificiale aggiunge un’altra trasformazione: permette alla macchina di continuare la propria missione anche quando il collegamento con l’uomo viene meno.
Ed è proprio questo uno dei vantaggi militari dell’autonomia.
Un drone collegato a un operatore può essere disturbato, accecato, disconnesso.
Un drone capace di orientarsi attraverso la propria telecamera e il proprio computer può continuare a volare.
Può riconoscere ciò che è stato addestrato a riconoscere.
Può adattarsi.
Può scegliere.
E può colpire.
La tecnologia che ieri sembrava appartenere alla fantascienza sta entrando nella realtà con una velocità impressionante.
Non siamo ancora davanti agli eserciti di robot autonomi dei film.
Ma siamo abbastanza vicini da dover smettere di considerarli soltanto fantascienza.
E, infatti, proprio ieri, il segretario generale dell’ONU António Guterres e la presidente della Croce Rossa Mirjana Spoljaric hanno chiesto regole internazionali vincolanti sulle armi autonome, avvertendo del rischio rappresentato da sistemi capaci di individuare e colpire obiettivi senza intervento umano.
Questa richiesta arriva in un momento nel quale la tecnologia corre molto più velocemente della politica.
Ed è questo il vero problema.
L’uomo inventa una macchina.
La macchina diventa più veloce dell’uomo.
Poi diventa più precisa.
Poi più autonoma.
E, infine, può diventare più veloce della capacità dell’uomo di controllarla.
A quel punto la domanda non è più soltanto: Quanto è intelligente una macchina?
La domanda diventa: Quanta responsabilità siamo disposti a consegnarle?
Perché c’è una differenza enorme tra una macchina che aiuta un soldato a vedere un bersaglio e una macchina alla quale viene affidata la decisione finale di colpire.
Nel primo caso l’intelligenza artificiale è uno strumento.
Nel secondo comincia a diventare un soggetto operativo.
Ed è qui che la nostra civiltà entra in un territorio inesplorato.
Abbiamo sempre costruito strumenti capaci di aumentare la nostra forza.
Il martello aumentava la forza della mano.
Il motore aumentava quella dei muscoli.
Il computer aumentava quella della memoria.
Internet aumentava quella della comunicazione.
L’intelligenza artificiale aumenta quella del pensiero.
Ma quando mettiamo questa capacità dentro una macchina armata, capace di muoversi e di scegliere autonomamente, accade qualcosa di completamente diverso.
Non stiamo più soltanto potenziando il corpo umano.
Stiamo trasferendo una parte della nostra capacità decisionale dentro una macchina che può produrre conseguenze irreversibili.
E allora mi domando: chi sarà responsabile quando la macchina sbaglierà?
Il programmatore?
Il generale?
Il governo?
Il produttore del computer?
L’operatore?
Oppure nessuno?
Questa è la domanda che dovremmo porci prima che sia troppo tardi.
Perché un errore umano può essere terribile.
Ma un errore automatizzato può essere replicato migliaia di volte.
Una macchina non si stanca.
Non dorme.
Non esita.
Non si distrae.
E, soprattutto, può essere prodotta in quantità enormi.
È questo che potrebbe cambiare definitivamente la guerra.
Non avremo necessariamente bisogno di eserciti sempre più grandi.
Potremmo avere eserciti sempre più piccoli che comandano flotte sempre più grandi di macchine.
E, allora, il problema non sarà più soltanto chi possiede le armi migliori.
Sarà chi possiede gli algoritmi migliori.
La guerra del futuro potrebbe essere combattuta da uomini che non vedono più direttamente il nemico e da macchine che non comprendono nemmeno che quello che stanno colpendo è un essere umano.
Ed è una prospettiva che mi inquieta profondamente.
Perché la civiltà ha impiegato secoli per costruire un principio elementare: la responsabilità appartiene a chi decide.
Ora rischiamo di costruire sistemi nei quali la decisione viene frammentata tra software, sensori, algoritmi, operatori e comandi militari.
E, più frammentiamo la decisione, più rischiamo di frammentare anche la responsabilità.
È questa, per me, la vera rivoluzione dell’intelligenza artificiale nella guerra.
Non il drone.
Non il computer.
Non il missile.
La rivoluzione è che per la prima volta possiamo costruire una macchina alla quale diciamo cosa cercare, ma non necessariamente quale essere umano colpire.
E qui dobbiamo fermarci.
Non perché la tecnologia debba essere fermata.
La tecnologia non si fermerà.
Dobbiamo invece fermare l’idea che tutto ciò che tecnicamente possiamo fare debba necessariamente essere fatto.
Abbiamo già dimostrato di essere capaci di costruire armi capaci di distruggere il mondo.
Adesso stiamo costruendo macchine capaci di decidere sempre più autonomamente come utilizzare quella capacità distruttiva.
La vera sfida del XXI secolo non sarà, quindi, insegnare alle macchine a pensare.
Sarà insegnare agli uomini quando una macchina non deve essere autorizzata a decidere.
Perché posso immaginare un futuro nel quale l’intelligenza artificiale salverà milioni di vite.
Ma posso anche immaginare un futuro nel quale una macchina, in una frazione di secondo, ne distruggerà una senza che nessun essere umano abbia più avuto l’ultima parola.
E, allora, quelle tre persone morte a Zaporižžja non saranno soltanto tre vittime di una guerra.
Potrebbero essere il simbolo dell’inizio di una nuova epoca.
L’epoca nella quale l’uomo non è più necessariamente colui che impugna l’arma.
Potrebbe diventare colui che programma la macchina affinché l’arma scelga da sola.
Ed è una differenza enorme.
Perché finché l’uomo tiene il dito sul grilletto, per quanto terribile sia, esiste ancora un istante nel quale può scegliere di non premere.
Quando quel dito scompare e rimane soltanto un algoritmo, dobbiamo chiederci se abbiamo costruito una macchina intelligente… oppure una nuova forma di irresponsabilità.
Io credo che questa sia una delle domande più importanti che l’umanità debba affrontare prima che la tecnologia ci costringa a rispondere.
