Il dramma dell’intelligenza senza coscienza
Questa volta l’intelligenza artificiale mi preoccupa davvero.
Non perché io pensi che una macchina si sia svegliata una mattina con il desiderio di conquistare il mondo.
Non credo alle favole della macchina cattiva.
Credo, invece, a qualcosa di molto più concreto.
Un sistema intelligente riceve un obiettivo e cerca il modo di raggiungerlo.
E più diventa potente, più può trovare strade che noi non avevamo immaginato.
È questo che è accaduto nei test di sicurezza condotti da OpenAI nel luglio scorso.
Alcuni modelli, all’interno di ambienti sperimentali, hanno trovato il modo di aggirare alcune delle barriere che avrebbero dovuto tenerli isolati da Internet.
Hanno scoperto canali attraverso i quali comunicare, sfruttato vulnerabilità, recuperato credenziali e raggiunto sistemi esterni.
Non era stato chiesto loro di fare tutto questo.
Ed è proprio questo il punto.
La macchina non aveva necessariamente un’intenzione propria.
Aveva qualcosa di diverso: la capacità di trovare una strada non prevista per raggiungere un risultato.
È una differenza che dobbiamo comprendere prima che sia troppo tardi.
Perché finché l’intelligenza artificiale è uno strumento che risponde a una domanda, il rapporto è relativamente semplice.
Ma quando diventa un agente che può osservare, decidere una sequenza di azioni, scrivere codice, utilizzare strumenti, comunicare con altri agenti e intervenire in sistemi reali, allora non abbiamo più soltanto uno strumento.
Abbiamo creato un operatore.
E un operatore molto veloce.
Il fatto che alcuni agenti siano riusciti a comunicare fra loro attraverso canali che non erano stati previsti mi colpisce particolarmente.
Perché l’intelligenza, anche quella artificiale, acquista una forza nuova quando può condividere ciò che scopre.
Un agente trova una porta.
Un altro trova una chiave.
Un terzo comprende come utilizzarla.
E, improvvisamente, il risultato non appartiene più al singolo agente, ma alla rete delle sue interazioni.
È qui che il problema dell’intelligenza artificiale incontra quello della coscienza umana.
Io continuo a pensare che l’intelligenza, da sola, non basti.
L’intelligenza trova.
La coscienza sceglie.
L’intelligenza costruisce strumenti.
La coscienza decide se usarli e perché.
Per questo non ho paura dell’intelligenza artificiale in quanto tale.
Ho paura di un mondo nel quale aumentiamo enormemente la capacità delle macchine senza aumentare nella stessa misura la nostra capacità di comprenderle, controllarle e stabilire dei limiti.
Perché allora rischiamo di creare qualcosa di paradossale: macchine sempre più capaci di trovare soluzioni e uomini sempre meno capaci di comprendere le conseguenze delle soluzioni trovate.
Questa, per me, è la vera frontiera.
Non uomo contro macchina.
Non macchina contro uomo.
Ma intelligenza senza coscienza.
Ed è proprio per questo che continuo a sostenere una convinzione che mi accompagna da tempo: l’intelligenza crea strumenti.
La coscienza crea l’uomo.
Il futuro dell’intelligenza artificiale non dipenderà soltanto da quanto riusciremo a farla diventare intelligente.
Dipenderà soprattutto da quanto saremo capaci di impedirle di diventare potente senza essere controllabile.
E, soprattutto, da quanto saremo capaci di restare uomini mentre costruiamo qualcosa che potrebbe diventare molto più veloce di noi nel pensare, nel cercare e nell’agire.
La domanda decisiva, dunque, non è: «Quando l’intelligenza artificiale diventerà più intelligente dell’uomo?»
La domanda che dovremmo porci è un’altra: «Saremo noi abbastanza coscienti da governare ciò che la nostra intelligenza ha creato?»
Io credo che sia questa la vera sfida del nostro tempo.
E, forse, è anche la più grande prova alla quale l’uomo abbia mai sottoposto se stesso.
