di Marco Palombi*
Cibo per la mente (artificiale?)
Più leggo di preoccupazione per l’avvento e diffusione della intelligenza artificiale (IA), e del contrasto alla sua diffusione che sta iniziando a manifestarsi nelle classi popolari e da parte degli Stati, più mi si rafforza un germe di idea, di sospetto.
La IA è uno strumento, che, in quanto tale, è neutrale. Né buono né cattivo: dipende dall’uso che se ne fa.
La IA può essere un’arma a doppio taglio. Da un lato, può essere utilizzata per svolgere compiti molto utili e migliorare la nostra vita quotidiana. Dall’altro può essere usata anche per scopi meno nobili, come il controllo delle masse e la raccolta finalizzata di informazioni personali.
Il Social Scoring e l’Identità Digitale sono solo due esempi di come l’IA possa essere utilizzata per il controllo della società, delle masse e del singolo individuo.
Il Social Scoring è un sistema di valutazione sociale che utilizza algoritmi per monitorare il comportamento delle persone in diversi contesti, come ad esempio sulle piattaforme social e nei servizi online. Questo sistema di valutazione assegna ai singoli individui un punteggio in base al loro comportamento e alle loro interazioni online, e questo punteggio può influire sulla loro reputazione e sul loro accesso a servizi e opportunità.
L’IA viene utilizzata nel Social Scoring in diversi modi. Ad esempio, gli algoritmi di apprendimento automatico sono utilizzati per analizzare i dati raccolti dalle interazioni online delle persone, come i commenti sui social media, i post, i like, i retweet, e così via. Questi algoritmi possono poi valutare il comportamento delle persone e assegnare loro un punteggio di conformità sulla base di parametri specifici, dettati da chi gestisce – e usa – il sistema di scoring.
Inoltre, l’IA può anche essere utilizzata per elaborare i dati raccolti dalle telecamere di sorveglianza e dai sensori ambientali per monitorare il comportamento delle persone nei luoghi pubblici. Anche in questo caso, gli algoritmi di apprendimento automatico possono essere utilizzati per analizzare i dati e assegnare un punteggio alle persone sulla base delle loro azioni e comportamenti.
l’IA viene impiegata per definire pattern comportamentali e valutare se una persona si discosta dai propri schemi tipici, attivando un “allarme” nel caso in cui vengano rilevati comportamenti anomali o sospetti.
Gli algoritmi di apprendimento automatico possono essere addestrati per riconoscere i comportamenti comuni delle persone in determinati contesti, ad esempio in un’azienda o in un aeroporto, e rilevare eventuali deviazioni da questi schemi comportamentali. Questi algoritmi possono analizzare una vasta gamma di dati, come i movimenti, i suoni, le comunicazioni verbali e non verbali, e così via, per identificare eventuali anomalie. Ad esempio, l’IA può essere utilizzata per rilevare comportamenti sospetti in situazioni di sicurezza, come la presenza di persone sconosciute o la mancata conformità ai protocolli di sicurezza. In questi casi, l’IA può attivare un allarme per avvertire il personale della sicurezza o i responsabili della gestione del rischio.
Ma gli algoritmi possono essere addestrati per riconoscere i tuoi comportamenti comuni. E se tu ti discosti da tali comportamenti, sul tavolo di qualcuno suona un allarme.
Il sistema di Social Scoring cinese, ad esempio, valuta il comportamento degli individui, delle aziende e delle istituzioni in base a una vasta gamma di fattori. Tra questi ci sono i seguenti:
1. Rispetto delle leggi e dei regolamenti: il rispetto della legge è un parametro fondamentale del sistema di Social Scoring cinese. Ciò include il rispetto delle leggi sulla sicurezza pubblica, sul traffico stradale, sulle tasse, sul lavoro, sulla sicurezza alimentare e su molti altri aspetti della vita quotidiana.
2. Comportamento finanziario: il sistema tiene conto del comportamento finanziario degli individui e delle aziende. Questo include la valutazione della storia del credito, il rispetto dei termini dei contratti finanziari, il pagamento delle tasse e delle imposte, e così via.
3. Comportamento civico: il sistema di Social Scoring cinese valuta il comportamento civico degli individui, incluso il rispetto delle norme di comportamento sociale, la partecipazione a programmi di volontariato, la partecipazione alla vita comunitaria e così via.
4. Comportamento sui social media: il sistema di Social Scoring cinese tiene traccia del comportamento degli individui sui social media. Ciò include l’analisi dei contenuti pubblicati sui social media, i commenti, le attività e così via.
5. Conformità delle imprese: il sistema di Social Scoring cinese valuta anche il comportamento delle imprese, compresa la qualità dei loro prodotti e servizi, il rispetto dei contratti, la conformità fiscale, la responsabilità sociale e così via.
6. Comportamento ambientale: il sistema di Social Scoring cinese tiene conto anche del comportamento delle aziende e degli individui in merito alla protezione dell’ambiente, incluso l’uso di risorse naturali, la riduzione delle emissioni di gas serra, la gestione dei rifiuti e così via.
7. Comportamento legato alla salute: il sistema di Social Scoring cinese valuta anche il comportamento degli individui in merito alla loro salute, incluso il fumo, il bere alcolici, l’esercizio fisico e la partecipazione a programmi di prevenzione delle malattie.
In generale, il sistema utilizza una vasta gamma di dati provenienti da fonti diverse per valutare il comportamento degli individui e delle aziende e per assegnare loro un punteggio sociale.
I cittadini che hanno un alto punteggio sociale possono accedere a una serie di benefici, come ad esempio l’accesso a prestiti agevolati, l’assegnazione di abitazioni pubbliche, l’accelerazione dei procedimenti burocratici, l’ottenimento di visti per viaggi all’estero, e così via.
Al contrario, coloro che hanno un punteggio sociale basso possono subire penalizzazioni, come ad esempio l’impossibilità di ottenere prestiti o carte di credito, il divieto di viaggiare all’estero, l’impossibilità di ottenere un lavoro o di affittare una casa, di frequentare determinate scuole.
Per quanto riguarda la famiglia del cittadino con punteggio basso, il sistema di Social Scoring cinese non prevede specifiche sanzioni. Tuttavia, le conseguenze negative del basso punteggio sociale del cittadino possono riflettersi anche sulla famiglia, ad esempio nell’impossibilità di ottenere prestiti per l’acquisto di una casa o di una macchina.
Il sistema di identità digitale cinese, chiamato “Sistema di Credito Sociale Unificato”, è un database centralizzato che raccoglie informazioni sulle attività finanziarie, commerciali e sociali dei cittadini, e assegna a ciascun individuo un punteggio di credito.
Questo punteggio di credito viene utilizzato dalle banche e dalle istituzioni finanziarie per valutare la solvibilità dei clienti, ma anche dalle autorità governative per valutare il comportamento dei cittadini.
Il sistema di Social Scoring utilizza anch’esso i dati raccolti dal Sistema di Credito Sociale Unificato per valutare il comportamento dei cittadini e assegnare loro un punteggio sociale.
In questo modo, le autorità governative possono monitorare il comportamento dei cittadini non solo in ambito finanziario, ma anche in ambito sociale e comportamentale.
Sei quindi ostaggio del sistema di scoring. Non più un cittadino. Fantascienza? No, già sta succedendo.
In questo scenario, l’accesso delle masse ai sistemi di IA potrebbe diventare l’unica difesa, l’unico modo di contrasto da parte del singolo verso questi sistemi di controllo. Come?
In primo luogo, l’IA può essere utilizzata per criptare e proteggere i dati personali del singolo cittadino, rendendoli meno accessibili alle autorità governative e ad altri soggetti non autorizzati. In questo modo, il cittadino può proteggere la propria privacy e impedire che le sue informazioni vengano utilizzate per scopi illeciti o invasivi.
In secondo luogo, l’IA potrebbe essere utilizzata dal cittadino per generare informazioni false o fuorvianti sui comportamenti “come se fosse il cittadino stesso”, in modo da confondere i sistemi di monitoraggio e di raccolta dati utilizzati dalle autorità governative. Oppure per generare dati comportamentali credibili in misura notevole, in modo da “affogare” il sistema con dati comportamentali fasulli.
L’IA infatti ha la capacità di fingersi una persona e manipolare, o inventare, i dati che vengono raccolti dai controllori, rendendo difficoltosa l’identificazione e il monitoraggio del singolo.
Ad esempio, un software di IA potrebbe generare attività false sui social media o su altre piattaforme online, per mascherare le vere attività del cittadino e confondere i sistemi di monitoraggio.
Tuttavia l’utilizzo di queste tecnologie può essere rischioso e potenzialmente illegale. In alcuni paesi, l’utilizzo di software o tecnologie che ostacolano o confondono i sistemi di monitoraggio delle autorità governative può essere considerato un reato, addirittura un attentato alla sicurezza nazionale.
Mentre lo Stato o le Corporazioni possono usare i dati raccolti per profilare e definire l’informazione da veicolare (vedi Cambridge Analytica, ad esempio) e quindi orientare il singolo e le masse, I‘uso di sistemi di IA da parte del privato, atti a impersonare il privato stesso sui social (ad esempio), ma con comportamenti diversi, finalizzato ad evitare la profilazione, può esser vietato.
In Italia, ad esempio, l’utilizzo di sistemi che “confondono le acque”, ad esempio generando informazioni false o fuorvianti sui comportamenti di un individuo per confondere i sistemi di monitoraggio governativi, potrebbe violare diverse leggi. Potrebbe essere considerato un reato l’utilizzo di strumenti o tecniche per ostacolare le attività di pubblico ufficiale o per impedire l’azione dell’autorità giudiziaria (articoli 337 e 367 del Codice Penale italiano). Inoltre, potrebbe essere considerato un reato l’utilizzo di strumenti o tecniche per commettere frodi informatiche o per alterare l’informazione informatica (articoli 640-ter e 491-bis del Codice Penale italiano), oppure potrebbe rientrare in diversi reati previsti dalla legislazione italiana, tra cui:
• Art. 494 del Codice Penale: Falsità ideologica commessa dal privato. Questo reato punisce chiunque compie atti con il fine di far risultare verità ideologiche diverse da quelle effettive, al fine di trarne un profitto per sé o per altri.
• Art. 495 del Codice Penale: Falsità materiale commessa dal privato. Questo reato punisce chiunque compie atti con il fine di far risultare fatti materiali diversi da quelli effettivi, al fine di trarne un profitto per sé o per altri.
Questo sbilanciamento lascia intravvedere la posizione dominante del “sistema” sul “singolo”. Anche nella liberale (sic) Italia.
Su di un piano storico-evoluzionistico, l’utilizzo della IA da parte del singolo per contrastare un uso autoritaristico della stessa potrebbe essere visto come un atto di disobbedienza civile, che ha avuto un ruolo importante nella storia del cambiamento sociale e politico, e nel progresso umano.
A ciò aggiungiamo un fattore importante: l’impatto dell’uso della IA nel decadimento delle strutture di potere referenziali.
Se per fare una tesi di laurea posso usare Chat GPT, a cosa serve che un professore in carne ed ossa la valuti, ma che soprattutto abbia il potere di determinare, con un suo atto di volontà il mio voto, e quindi la mia carriera futura?
Se per analizzare dei dati posso usare degli algoritmi neutrali che pescano informazioni usando le ontologie, che bisogno ho di leggere un giornale sottoposto alla revisione di un capo redattore, quindi alle sue idee?
Se un sistema di IA è riuscito a superare il test di abilitazione alla professione medica , che bisogno ho del medico della ASL, se il sistema conosce anche me, il mio patrimonio genetico e i miei valori standard?
Se posso usare la IA per criptare dei dati e trasmetterli in sicurezza, e conservarli in sicurezza, che bisogno ho di un notaio che li certifichi?
Se posso usare gli algoritmi di IA per effettuare trading sui mercati finanziari, che bisogno ho di un intermediario finanziario?
Ho fatto cinque esempi di “professioni tradizionali” minacciate dalla IA, ma scelte fra quelle che rappresentano il presidio di alcuni snodi delle nostre vite. Abolendo il presidio, le nostre vite si potrebbero svolgere in modo più lineare, e soprattutto determinato da noi.
Ma qualsiasi organismo tende al mantenimento dello status quo. Non solo il professore o il notaio, ma il sistema stesso che sul professore e il notaio ha impostato gli snodi delle nostre vite.
Il controllo dell’individuo funziona se c’è struttura, e la struttura si basa su ”luoghi di potere anche minimo” per fare in modo che il singolo rimanga nella casella a lui assegnata.
L’IA minaccia lo status quo. Che è il migliore status quo raggiunto dall’Uomo da che è sceso dagli alberi, a giudicare dalla sua diffusione e aspettativa di vita.
Ma siamo sicuri che domani non avremo bisogno, non desidereremo un altro status quo? Migliore ancora, per il singolo individuo? E come si potrà raggiungere se il controllo – nato per mantenere l’attuale status quo- sarà appiattente, pervasivo e opprimente?
Io ho visto nella decisione di limitare la IA attraverso la creazione di un clima di scetticismo o addirittura di divieto all’accesso da parte dei cittadini, nelle dichiarazioni di uomini di potere circa la pericolosità della IA, il primo segno della reazione dell’oggi, e del futuro che l’oggi aveva programmato, nei confronti della possibilità di un domani.
Ma siamo sicuri, torno a domandare, di volere che domani sia come oggi, solo più inquadrato?
*con l’ausilio di Chat GPT
