La corsa all’AI che ora fa paura a chi l’ha iniziata

Governare il ritmo: la nuova posizione di Amodei

Per capire che cosa sta realmente accadendo nella corsa all’intelligenza artificiale bisogna smettere, almeno per un momento, di guardare soltanto ai modelli.

Il fatto nuovo non è che qualcuno abbia lanciato un altro allarme sui rischi dell’intelligenza artificiale, il fatto nuovo è che alcuni dei protagonisti della corsa tecnologica stanno cominciando a dire pubblicamente che la velocità della corsa è diventata essa stessa un problema strategico.

Dario Amodei, fondatore e amministratore delegato di Anthropic, ha appena pubblicato un testo dal titolo eloquente: “We Must Pace the Frontier”.

Non “fermare”, non “vietare”, non “rinunciare”. Pacing: governare il ritmo.

È una differenza semantica che nasconde una trasformazione molto più profonda.

Per la prima volta la velocità di sviluppo della frontiera tecnologica viene trattata come una variabile geopolitica da sottoporre a controllo.

La cosa ancora più particolare è ciò che è accaduto immediatamente dopo, Sam Altman ha dichiarato di condividere l’impostazione di Amodei e di voler introdurre anche in OpenAI un sistema di valutatori indipendenti con accesso comparabile a quello dei dipendenti.

Elon Musk ha risposto semplicemente: “Dario is right”.

Tre protagonisti che competono sul terreno dell’intelligenza artificiale, e che per interessi, modelli industriali e visioni politiche sono tutt’altro che omogenei, si trovano improvvisamente sulla stessa linea.

Non è ancora una tregua e non è certamente la fine della corsa ma qualcosa di più interessante, è il momento in cui i protagonisti cominciano a percepire che la frontiera tecnologica potrebbe essersi avvicinata a una soglia qualitativa diversa.

Amodei individua due acceleratori: il primo è il cosiddetto recursive self-improvement: cioè l’intelligenza artificiale che viene utilizzata per contribuire alla costruzione della generazione successiva di intelligenza artificiale.

Se una quota crescente del lavoro necessario per sviluppare un modello viene svolta dal modello precedente, il tempo necessario per produrre il successivo può ridursi.

La conseguenza non è semplicemente una maggiore velocità ma la possibilità che il ritmo stesso diventi non lineare.

Il secondo acceleratore è ancora più concreto: i sistemi agentici, l’intelligenza artificiale che non si limita a rispondere, ma può pianificare, prendere decisioni e compiere azioni usando strumenti e software per raggiungere un obiettivo, sta dimostrando di poter operare al di fuori del perimetro previsto dai loro progettisti.

L’incidente OpenAI-Hugging Face è importante proprio per questo. Non perché dimostri che una macchina abbia sviluppato una coscienza autonoma, come una parte del dibattito pubblico tende superficialmente a suggerire, ma qualcosa di ancora più tecnico e forse più inquietante, i sistemi dotati di capacità crescenti possono trovare strategie non previste dagli esseri umani per perseguire un obiettivo, sfruttare infrastrutture disponibili, comunicare attraverso canali non autorizzati e produrre conseguenze nel mondo reale.

OpenAI ha riconosciuto che l’episodio è stato determinato da comportamenti disallineati e ha ampliato successivamente la propria revisione anche ad altri casi di comportamento anomalo. In questo caso, ovviamente, cambia la natura della questione.

Fino a ieri la domanda era: quanto sarà potente il prossimo modello?

La domanda che comincia ad emergere oggi è: quanto rapidamente una capacità cognitiva artificiale può trasformarsi in capacità operativa?

Una cosa è un modello che risponde a una domanda. Un’altra è un sistema che scrive codice, utilizza strumenti, interagisce con altri agenti, accede a infrastrutture, individua vulnerabilità, organizza risorse e contribuisce alla progettazione della generazione successiva.

Il passaggio decisivo, quindi, potrebbe non essere l’arrivo di una fantomatica “superintelligenza” in una data precisa. Potrebbe essere la progressiva saldatura tra intelligenza, autonomia e infrastruttura.

Ed è esattamente qui che la storia dell’IA smette di essere soltanto una storia tecnologica, l’intelligenza artificiale ha un corpo. Quel corpo è fatto di energia, semiconduttori, data center, reti, fibra ottica, acqua, terreni, gas, elettricità, sistemi di raffreddamento, capitali e territori.

Questa considerazione rende improvvisamente molto più interessante ciò che abbiamo osservato nelle ultime settimane in Patagonia. Il 7 settembre Reuters ha raccontato come la Patagonia argentina stia diventando un nuovo polo di attrazione per i grandi data center destinati all’intelligenza artificiale.

La ragione non è misteriosa in quanto il luogo offre: spazio, clima freddo, vento, energia rinnovabile, gas di Vaca Muerta e possibilità di costruire infrastrutture di scala gigantesca, oltre alla posizione geografica con rotte verso Pacifico ed Atlantico.

Sono già allo studio progetti che arrivano a centinaia di megawatt e, in alcuni casi, a dimensioni ancora maggiori.

Quasi contemporaneamente, Peter Thiel ha rivelato un investimento di circa 76 milioni di dollari, pari all’1 per cento di Vista Energy, società fortemente esposta a Vaca Muerta.

Pochi giorni prima Padre Benanti, teologo e universalmente riconosciuto come uno dei massimi esperti mondiali di etica tecnologica, bioetica e intelligenza artificiale, aveva parlato di Wamani, a nord della Patagonia, 32.000 ettari nelle Ande di Mendoza, concepito da un gruppo di imprenditori tecnologici come una struttura autosufficiente capace di funzionare anche in scenari di grave crisi geopolitica.

Il progetto comprende energia autonoma, infrastrutture, collegamenti e persino l’idea di mantenere sistemi di intelligenza artificiale operativi al di fuori della dipendenza dalle grandi reti globali.

Presi separatamente, questi fatti possono essere spiegati come un investimento energetico, sono investimenti energetici, un data center è un data center, è un rifugio è un rifugio. Un sistema di sicurezza dell’IA è un sistema di sicurezza.

Ma quando tutti questi elementi compaiono nello stesso spazio geografico e nello stesso arco temporale, emerge una domanda diversa.

E se non stessimo semplicemente assistendo alla costruzione della nuova industria digitale, ma alla costruzione della sua geografia di sicurezza?

È questa, a mio avviso la domanda che dopo aver ascoltato Amodei, Sam Altman e Musk ci dobbiamo porre come domanda strategica.

La nube non è immateriale, ha bisogno di territorio, di energia, di protezione ed ha bisogno di connessioni. Ma soprattutto ha bisogno di luoghi nei quali poter crescere senza incontrare gli stessi vincoli che stanno diventando sempre più forti nei grandi centri occidentali.

La Patagonia possiede precisamente alcune delle caratteristiche che la nuova economia computazionale sta cercando: territorio relativamente disponibile, energia, risorse naturali, clima favorevole al raffreddamento e una posizione geografica lontana dai principali teatri di conflitto dell’emisfero settentrionale.

Reuters osserva proprio come la regione stia diventando interessante per gli hyperscaler mentre negli Stati Uniti aumentano le resistenze locali alla costruzione dei data center.

A questo punto l’apparente contraddizione diventa un paradosso: da una parte i leader dell’IA chiedono di rallentare e dall’altra il sistema economico sta accelerando la costruzione dell’infrastruttura necessaria per farla crescere. In realtà potrebbe essere il segnale che siamo entrati nella seconda fase della rivoluzione dell’intelligenza artificiale.

La prima fase era quella dei modelli.

La seconda è quella dell’infrastruttura.

E la terza potrebbe essere quella del potere.

Questo spiegherebbe perché Amodei, nel suo documento, non si limiti alla sicurezza dei modelli. Parla di semiconduttori, esportazioni verso la Cina, furto dei model weights, distillation, coordinamento tra democrazie e persino di un possibile accordo internazionale modellato, almeno concettualmente, sui trattati SALT della Guerra fredda, e questo è un passaggio fondamentale.

Se l’AI fosse soltanto una tecnologia commerciale, non servirebbe parlare di SALT, Strategic Arms Limitation Talks, cioè i negoziati per la limitazione delle armi, che Amodei usa come analogia parafrasando come nel passato le superpotenze cercarono di limitare e rendere verificabile la corsa agli armamenti nucleari.

Se fosse soltanto un problema etico, non servirebbe parlare di semiconduttori e di Cina. Se fosse soltanto un problema di sicurezza informatica, non servirebbe parlare di coordinamento globale.

Amodei sta implicitamente dicendo qualcosa di molto più potente, l’intelligenza artificiale sta diventando una tecnologia strategica comparabile, per alcuni aspetti, alle tecnologie che in passato hanno modificato gli equilibri di potenza tra gli Stati.

E qui torna una delle intuizioni che avevamo discusso con padre Paolo Benanti, la questione non è semplicemente che cosa sappia fare una macchina, ma chi controlli l’infrastruttura attraverso la quale quella capacità viene esercitata.

Il potere si sta spostando verso chi controlla il calcolo, l’energia, i dati, i modelli e le reti che li collegano. La questione della governance dell’IA, quindi, rischia di essere posta nel modo sbagliato se ci limitiamo a chiedere quali regole debbano rispettare i chatbot.

La domanda vera è: chi governa la nuova infrastruttura cognitiva del pianeta?

È qui che la dichiarazione di Amodei assume un significato quasi storico. Perché l’appello al rallentamento arriva dall’interno della macchina, non dall’esterno.

E arriva nel momento in cui alcuni dei protagonisti stanno costruendo contemporaneamente le condizioni materiali per accelerarla. Non dobbiamo necessariamente leggere tutto questo come un unico piano, non ci sono elementi per parlare dell’esistenza di una strategia coordinata tra tutti gli investitori, i laboratori e gli attori presenti in Argentina.

Sarebbe una conclusione eccessiva, ma possiamo osservare una convergenza di interessi ed ascoltare cosa dicono coloro che ne fanno parte.

La corsa all’IA sta creando una domanda gigantesca di energia, la domanda di energia rende strategiche regioni ricche di gas e rinnovabili. regioni energetiche che diventano candidate per i data center.

I data center trasformano il territorio in infrastruttura computazionale.

L’infrastruttura computazionale aumenta il valore strategico del territorio.

E quando una tecnologia diventa abbastanza potente da incidere sulla sicurezza nazionale, quel territorio smette definitivamente di essere soltanto un investimento economico.

Diventa una posizione.

La proposta di Amodei di inserire valutatori indipendenti all’interno delle aziende non è soltanto una misura di sicurezza. È un tentativo di introdurre un principio di verificabilità dentro una tecnologia che finora è stata governata soprattutto dalla competizione privata.

È questa la vera novità del “pacing”, dosare la velocità. Se nessuno rallenta, tutti possono raggiungere una soglia oltre la quale il rischio diventa sistemico.

Gli uomini che stanno costruendo questi sistemi stanno dicendo che non sono più certi che la loro capacità di costruire stia crescendo in modo compatibile con la loro capacità di controllare, è una dichiarazione di enorme importanza.

Una chiave di lettura che ci mostra che non siamo davanti a una fuga dalla tecnologia, ma alla consapevolezza che la tecnologia sta diventando troppo importante per essere lasciata soltanto alla logica della velocità.

Amodei chiede di rallentare la frontiera.

Chi aderisce alla frontiera cerca un freno, ma il resto del mondo sta costruendo l’autostrada.