Mi interroga l’uomo che la costruisce
La fiducia nella tecnologia è importante. Ma non può diventare una fede cieca nelle capacità dell’uomo di controllare tutto ciò che è capace di creare.
Ho letto le dichiarazioni di Mark Zuckerberg sull’Intelligenza artificiale e mi sono fermato a riflettere.
Il fondatore di Meta ritiene che l’Intelligenza artificiale possa essere progettata rispettando normali limiti di sicurezza e sviluppata responsabilmente.
Non condivide, dunque, quella rappresentazione antropomorfica secondo la quale le macchine potrebbero, a un certo punto, decidere autonomamente di fare di testa propria.
È una posizione importante. Merita attenzione, perché nasce da una convinzione precisa: l’Intelligenza artificiale è una tecnologia realizzata dall’uomo e, come tale, può essere governata attraverso la conoscenza scientifica, la progettazione, le verifiche e le misure di sicurezza.
Non ho difficoltà a riconoscere il valore di questo ragionamento.
Ma proprio perché considero straordinaria la capacità umana di creare strumenti che ampliano le nostre possibilità, sento il dovere di pormi una domanda.
Siamo davvero in grado di controllare tutto ciò che siamo capaci di costruire?
La mia risposta è più prudente di quella di Zuckerberg.
Non perché io creda che una macchina debba necessariamente sviluppare una volontà propria, coltivare intenzioni ostili o trasformarsi in un essere umano artificiale. Non abbiamo bisogno di immaginare scenari fantascientifici per comprendere i rischi.
Il problema, a mio giudizio, è più concreto e, per certi aspetti, più inquietante.
Possiamo progettare una tecnologia senza riuscire a prevedere tutte le conseguenze del suo utilizzo.
Possiamo stabilire regole di sicurezza senza essere certi che rimangano sufficienti quando cambiano le capacità del sistema, il contesto nel quale opera e gli obiettivi di chi lo utilizza.
E possiamo disporre di strumenti potentissimi senza possedere, necessariamente, la saggezza necessaria per servircene.
È questa la distinzione che vorrei sottolineare.
Il limite della tecnologia non è soltanto tecnico
Zuckerberg ha ragione quando richiama la responsabilità della progettazione. Ma la responsabilità non si esaurisce nella progettazione.
Un sistema può essere tecnicamente sicuro rispetto agli obiettivi stabiliti dai suoi costruttori e, nello stesso tempo, produrre conseguenze sociali indesiderate.
Può funzionare come previsto e contribuire alla diffusione di informazioni false.
Può essere efficiente e rendere più facile manipolare le persone.
Può offrire servizi utilissimi e, contemporaneamente, sollevare problemi sulla riservatezza dei dati, sulla concentrazione del potere e sulla dipendenza degli individui da strumenti che non comprendono fino in fondo.
Può persino superare brillantemente le verifiche tecniche previste e rivelarsi inadeguato davanti a una situazione umana complessa, nella quale non basta calcolare una risposta: occorre comprendere quali conseguenze quella risposta avrà sulla vita delle persone.
Ecco perché considero insufficiente l’idea che la sicurezza possa essere affrontata soltanto attraverso normali limiti tecnici.
Non perché questi limiti siano inutili, ma perché nessuna misura di sicurezza può sostituire completamente la responsabilità di chi decide come, dove e perché impiegare una tecnologia.
La macchina può essere progettata. Il mondo nel quale la inseriamo, invece, è attraversato da interessi, conflitti, disuguaglianze e ambizioni che nessun progetto tecnico può cancellare.
Il rischio, dunque, non risiede necessariamente in una macchina che si ribella.
Può risiedere in un essere umano che la utilizza irresponsabilmente, in un’impresa che privilegia il vantaggio competitivo, in un governo che la adopera per sorvegliare, in un’organizzazione criminale che la trasforma in uno strumento di frode o in una società che ne adotta le soluzioni senza interrogarsi abbastanza sulle conseguenze.
Non è necessario attribuire alla macchina una cattiva intenzione quando è sufficiente osservare quelle dell’uomo.
Zuckerberg ha fiducia nel controllo. Io mi interrogo sui limiti del controllo
Non intendo liquidare la fiducia di Zuckerberg come una semplice manifestazione di interesse commerciale.
La ricerca scientifica, gli investimenti e la capacità di progettare sistemi sempre più affidabili sono elementi indispensabili per affrontare questa trasformazione.
E sarebbe un errore considerare ogni progresso tecnologico una minaccia.
L’Intelligenza artificiale può aiutare la ricerca medica, accelerare alcune scoperte scientifiche, rendere accessibili conoscenze complesse, migliorare determinati servizi e offrire strumenti preziosi a persone che altrimenti ne sarebbero prive.
Sarebbe irresponsabile rinunciare a queste opportunità per paura di ciò che non conosciamo.
Ma sarebbe altrettanto irresponsabile trasformare la fiducia nel progresso in una certezza assoluta sulla nostra capacità di governarlo.
La storia umana ci insegna che la possibilità di fare qualcosa non coincide automaticamente con la capacità di prevederne gli effetti.
Abbiamo inventato strumenti che hanno migliorato la vita e altri che hanno moltiplicato la nostra capacità di distruzione.
Abbiamo conquistato energie straordinarie e abbiamo dovuto imparare, spesso dopo averne pagato il prezzo, che la potenza non è sinonimo di saggezza.
La tecnologia nucleare ne è un esempio evidente. Ma non occorre arrivare alle armi atomiche. Anche strumenti apparentemente innocui possono modificare profondamente i comportamenti, le relazioni e gli equilibri di una società.
L’Intelligenza artificiale introduce una novità particolare: non si limita ad aumentare la nostra forza fisica o la velocità dei nostri calcoli.
Interviene anche nelle attività attraverso le quali interpretiamo il mondo, produciamo conoscenza, comunichiamo e prendiamo decisioni.
È per questo che la considero una trasformazione da osservare con una particolare attenzione.
Non dobbiamo avere paura per principio.
Dobbiamo comprendere prima di affidarci.
Il vero nodo: chi controlla chi?
C’è un altro elemento nelle dichiarazioni di Zuckerberg che ritengo meriti una riflessione.
Meta investe ingenti risorse per competere con altri protagonisti dell’Intelligenza artificiale. Lo sviluppo di nuovi modelli diventa così anche una competizione economica e tecnologica.
È comprensibile: le imprese cercano innovazione, mercati, ricavi e posizioni di vantaggio.
Ma proprio qui emerge una contraddizione che non possiamo ignorare.
Da una parte diciamo che l’Intelligenza artificiale deve essere sviluppata responsabilmente. Dall’altra, le imprese che la sviluppano sono sottoposte alla pressione di arrivare prima delle concorrenti, conquistare clienti, attirare investimenti e dimostrare di essere le più avanzate.
La domanda non è se questi interessi siano legittimi.
La domanda è se siano sempre compatibili con il tempo necessario per verificare i rischi.
Se un’impresa rallenta per esaminare un problema e un’altra accelera per conquistare il mercato, quale delle due sarà premiata dalla competizione?
E se la prudenza diventa uno svantaggio economico, possiamo davvero affidare la sicurezza dell’intera società soltanto alle decisioni volontarie delle aziende?
Io credo di no.
La responsabilità deve tradursi in controlli indipendenti, regole verificabili, trasparenza adeguata, protezione dei dati e possibilità concreta di attribuire responsabilità quando qualcosa va storto.
Non basta che un’impresa dichiari di essere responsabile.
Occorre che la responsabilità possa essere verificata.
E, soprattutto, occorre che le decisioni capaci di incidere sulla vita di milioni di persone non rimangano esclusivamente nelle mani di chi possiede le risorse economiche e tecnologiche per prenderle.
Il futuro dell’Intelligenza artificiale non può essere deciso soltanto da chi è in grado di costruirla. Deve riguardare anche chi dovrà vivere con le conseguenze delle sue applicazioni.
Ma l’intelligenza è davvero intelligenza?
Qui entriamo in un territorio ancora più delicato.
L’Intelligenza artificiale è capace di elaborare informazioni, riconoscere regolarità, generare testi, immagini e risposte, affrontare numerosi problemi e svolgere compiti che fino a poco tempo fa richiedevano capacità umane specializzate.
Non dobbiamo sminuire questi risultati.
Ma dobbiamo anche evitare di attribuire automaticamente a una prestazione intelligente tutte le qualità che associamo all’intelligenza umana.
Una macchina può parlare di dolore senza provare necessariamente dolore.
Può descrivere l’amore senza che questo dimostri che ami.
Può formulare un ragionamento morale senza che ciò provi che possieda una coscienza morale.
Può riconoscere le parole della compassione senza che sia dimostrata in essa l’esperienza interiore della compassione.
Sono distinzioni fondamentali.
Non sappiamo ancora rispondere in modo definitivo a tutte le domande filosofiche sulla coscienza. Ma non abbiamo ragioni sufficienti per dedurre, dalla sola capacità di produrre risposte sofisticate, che un sistema artificiale possieda un’esperienza soggettiva paragonabile alla nostra.
Perciò non considero necessario immaginare un’intelligenza artificiale che, come un personaggio di fantascienza, si svegli una mattina e decida di sottrarsi al controllo umano per comprendere la questione.
La questione è già davanti a noi.
Che cosa accade quando affidiamo decisioni importanti a sistemi che possono essere estremamente competenti in determinati compiti, ma che non possiedono necessariamente la comprensione umana delle conseguenze delle loro risposte?
E che cosa accade quando le persone, conquistate dalla loro efficacia, cominciano a fidarsi senza verificare?
Il pericolo potrebbe non essere una macchina convinta di essere umana.
Potrebbe essere un essere umano convinto che la macchina abbia sempre ragione.
Il limite più importante è quello dell’uomo
Arrivo così al punto che mi sta maggiormente a cuore.
Quando discutiamo dei limiti dell’Intelligenza artificiale, dovremmo discutere anche dei limiti di chi la progetta, di chi la finanzia, di chi la controlla e di chi la utilizza.
L’uomo non è un essere perfettamente razionale.
È capace di generosità e di crudeltà, di conoscenza e di ignoranza, di lungimiranza e di egoismo.
Può dedicare la propria intelligenza alla cura degli altri oppure utilizzarla per dominarli.
Può costruire strumenti per liberare le persone dalla fatica oppure per sorvegliarle.
Può mettere la conoscenza al servizio della pace oppure impiegarla per rendere più efficiente la guerra.
L’Intelligenza artificiale non cancella questa ambivalenza. Può amplificarla.
Ecco perché non mi basta chiedere se saremo capaci di costruire macchine più sicure.
Voglio sapere se saremo capaci di costruire una società più responsabile nell’utilizzarle.
Non mi basta sapere quanto un sistema possa diventare intelligente.
Voglio comprendere quali valori guideranno le decisioni di chi lo mette nelle mani degli altri.
Non mi basta sapere quanto velocemente potrà svilupparsi.
Voglio sapere se avremo il coraggio di fermarci quando la velocità rischierà di superare la nostra capacità di valutare le conseguenze.
Non è una richiesta di immobilità.
È una richiesta di maturità.
Perché il progresso non si misura soltanto da ciò che riusciamo a realizzare.
Si misura anche dalla capacità di distinguere ciò che possiamo fare da ciò che è giusto fare.
Una tecnologia straordinaria, una responsabilità ancora più grande
Vedo nell’Intelligenza artificiale una delle più importanti manifestazioni della capacità creativa dell’uomo.
Ma proprio per questo non vorrei che diventasse l’ennesima occasione per confondere la potenza con il diritto di esercitarla senza limiti.
La conoscenza scientifica ci permette di esplorare possibilità prima impensabili.
La filosofia ci aiuta a interrogare il significato delle nostre scelte.
Le tradizioni religiose, pur nelle loro profonde differenze, pongono da secoli domande sul bene, sul male, sulla responsabilità e sul valore della vita.
Nessuno di questi percorsi possiede da solo tutte le risposte. Ma separarli completamente dal dibattito sull’Intelligenza artificiale sarebbe un impoverimento.
La scienza può aiutarci a comprendere che cosa è possibile.
La filosofia può aiutarci a domandare perché dovremmo farlo.
L’etica può aiutarci a valutare le conseguenze delle nostre azioni.
La politica e il diritto devono contribuire a stabilire regole comuni, impedendo che il potere tecnologico si sottragga al controllo democratico.
E la coscienza individuale deve ricordarci che nessuna procedura può liberarci completamente dalla responsabilità delle nostre scelte.
Non si tratta di chiedere a una macchina di diventare buona.
Si tratta di impedire che l’uomo utilizzi la macchina per sottrarsi alla propria responsabilità morale.
La mia conclusione
Mark Zuckerberg ha fiducia nella possibilità di sviluppare l’Intelligenza artificiale attraverso una progettazione responsabile e limiti di sicurezza.
Io riconosco il valore di questa posizione, ma ne considero insufficiente una lettura esclusivamente tecnologica.
La sicurezza è necessaria. Non è una garanzia assoluta.
Il controllo è indispensabile. Non equivale alla conoscenza completa di tutte le conseguenze.
La fiducia nella scienza è fondamentale. Non deve trasformarsi nella convinzione che ogni problema possa essere risolto prima che si manifesti.
E la competizione può accelerare il progresso, ma non dovrebbe stabilire da sola i limiti entro i quali il progresso è accettabile.
Non temo necessariamente che l’Intelligenza artificiale voglia diventare come noi.
Mi interrogo, piuttosto, sulla possibilità che noi, affascinati dalle sue capacità, finiamo per assomigliare alle macchine nei nostri comportamenti: efficienti, veloci, calcolatori, ma sempre meno disposti a fermarci per comprendere l’altro.
Una società può diventare tecnologicamente straordinaria e umanamente più povera.
Può sapere sempre più cose e comprendere sempre meno le persone.
Può comunicare in ogni istante e perdere la capacità di ascoltare.
Può affidare alle macchine una parte crescente delle proprie decisioni e dimenticare che decidere significa anche assumersi delle responsabilità.
È questo il rischio che vorrei fosse discusso con la stessa serietà riservata alle prestazioni dei nuovi modelli.
Perché, in fondo, la questione non è soltanto quale futuro sapremo dare all’Intelligenza artificiale.
È quale futuro sapremo conservare per l’intelligenza, la dignità e la libertà umane.
E qui, permettetemi una considerazione conclusiva.
Non è sufficiente costruire un’intelligenza artificiale che non faccia di testa propria. Dobbiamo anche evitare che l’uomo smetta di usare la propria testa.
Perché la tecnologia può aiutarci a risolvere molti problemi.
Ma non può assumersi al nostro posto la responsabilità di decidere quale umanità vogliamo essere.
E questa, almeno per il momento, rimane una responsabilità nostra.
Di noi esseri umani.
Senza deleghe.
Se vuoi, questa riflessione può diventare anche il punto di partenza di un secondo articolo, ancora più incisivo, sul rapporto fra Zuckerberg, Sam Altman, la competizione globale e il rischio che la corsa all’Intelligenza artificiale proceda più velocemente della coscienza umana.
