di Sergio Restelli
L’accordo raggiunto tra il Parlamento europeo, la Commissione e il Consiglio sull’AI Act è un passo significativo e storico verso la regolamentazione dell’Intelligenza Artificiale (IA) nell’Unione europea. Questa legge organica sull’IA, se approvata e implementata con successo, rappresenterebbe la prima giurisdizione al mondo a stabilire una legislazione completa in questo campo.
L’obiettivo principale dell’AI Act è trovare un equilibrio tra lo sviluppo dell’IA e il rispetto dei diritti fondamentali. Ciò significa che la regolamentazione dovrebbe promuovere l’innovazione e il progresso economico mentre si proteggono i diritti dei cittadini e si evita l’abuso delle tecnologie AI. Un punto importante è la regolamentazione delle IA più potenti, come quelle sviluppate da grandi aziende tecnologiche come OpenAI, Meta (precedentemente nota come Facebook) e Google.
Queste IA saranno soggette a regole vincolanti che riguardano la trasparenza e la sicurezza, anziché affidarsi solo a codici di condotta volontari. L’accordo prevede anche regole specifiche per l’uso delle applicazioni di AI nei contesti di polizia. Ad esempio, il riconoscimento biometrico sarà consentito solo in caso di reati gravi e previa autorizzazione di un giudice. Questo mira a bilanciare la sicurezza pubblica con la protezione della privacy. Sebbene il testo finale debba ancora essere rifinito nelle prossime settimane, l’accordo politico garantisce che la legge sarà approvata entro la fine della legislatura europea e verrà progressivamente attuata nei successivi due anni.
Il Commissario europeo Thierry Breton ha definito l’AI Act come una “rampa di lancio” che permetterà a ricercatori e aziende europee di guidare lo sviluppo globale dell’IA. Ciò potrebbe favorire l’innovazione, la competitività e la leadership europea nel settore dell’IA. Tuttavia, rimangono incognite riguardo all’efficacia e all’applicazione pratica di questa normativa. Sarà importante monitorare da vicino come verrà attuato il AI Act e se riuscirà a raggiungere il suo obiettivo di regolare l’IA in modo equilibrato. Inoltre, il campo dell’IA è in costante evoluzione, quindi la legge dovrà adattarsi alle nuove sfide e opportunità che emergeranno nel tempo.Le prime perplessità riguardo all’AI Act riguardano principalmente la sua applicazione pratica e la definizione dei livelli di rischio per i diritti fondamentali.
Di seguito alcune delle preoccupazioni emerse. Uo dei punti critici della legge sarà definire in modo chiaro e preciso quali applicazioni dell’IA sono considerate a rischio per i diritti fondamentali e quali no. La valutazione del rischio può essere soggettiva e può variare in base all’interpretazione. Ciò potrebbe portare a controversie sull’applicazione della legge e alla necessità di stabilire criteri oggettivi per la valutazione del rischio. Mentre la legge bandisce alcune applicazioni ad alto rischio, come i sistemi di “social scoring” e quelli che manipolano comportamenti e decisioni, rimane una questione aperta su come verranno applicate tali limitazioni.
Sarà necessario definire con precisione cosa costituisce una manipolazione del comportamento e come sarà monitorato e applicato il divieto. Anche se l’accordo politico limita l’uso degli algoritmi di riconoscimento delle emozioni in alcune situazioni, come scuole e luoghi di lavoro, sembra restare permesso in contesti di immigrazione e sicurezza. Questo solleva preoccupazioni sulla potenziale invasività e discriminazione nell’uso di queste tecnologie in contesti delicati.Il fatto che la legge vieterebbe l’uso di sistemi di categorizzazione basati su informazioni sensibili, come razza, religione e orientamento sessuale, è un passo importante per proteggere i diritti umani e prevenire la discriminazione.
Tuttavia, sarà fondamentale garantire un’applicazione rigorosa e una sorveglianza adeguata per evitare possibili abusi o fughe legali. L’efficacia della legge dipenderà dalla sua attuazione e dal controllo delle attività delle organizzazioni e delle aziende che utilizzano l’IA. Sarà essenziale stabilire meccanismi di controllo adeguati per garantire che le normative vengano rispettate e che vi siano sanzioni adeguate per le violazioni .Il campo dell’IA è in continua evoluzione, e nuove sfide potrebbero emergere nel tempo. La legge dovrà essere in grado di adattarsi a tali sfide e di rimanere efficace nel garantire la protezione dei diritti fondamentali in un contesto in continua mutazione.
Sebbenel’AI Act rappresenti un passo importante verso la regolamentazione dell’IA nell’Unione europea, rimangono alcune sfide e preoccupazioni relative all’applicazione pratica e all’efficacia della legge. Sarà fondamentale affrontare queste preoccupazioni durante il processo di attuazione e garantire una stretta supervisione per proteggere i diritti fondamentali e promuovere un uso etico e responsabile dell’IA. Le osservazioni riguardanti il riconoscimento facciale e le eccezioni per la polizia, così come le prescrizioni per le applicazioni ad “alto rischio” e i grandi modelli AI, evidenziano ulteriori aspetti importanti dell’AI Act e delle relative preoccupazioni.
La questione del riconoscimento facciale è stata una delle più dibattute. Mentre il Parlamento europeo aveva inizialmente proposto un bando completo, i governi desideravano ampie eccezioni per l’uso in contesti di sicurezza. Il compromesso raggiunto prevede che l’uso dei sistemi di riconoscimento biometrico sia consentito solo previa autorizzazione di un giudice e in circostanze ben definite. Questo mira a garantire che tali tecnologie siano utilizzate in modo responsabile e limitato alle situazioni in cui è strettamente necessario. La legge stabilisce regole specifiche per le applicazioni di IA che possono avere un impatto significativo sui diritti fondamentali, come salute, lavoro, educazione e processi elettorali.
Queste regole includono la necessità di una valutazione preliminare dell’impatto per evitare errori o discriminazioni e la richiesta di supervisione umana per garantire una maggiore responsabilità nell’uso di tali tecnologie. Il AI Act introduce regole vincolanti per le “General purpose AI”, cioè grandi modelli AI ad alta potenza come quelli alla base di ChatGPT, Google o Meta. Queste regole richiedono la pubblicazione dei materiali utilizzati per l’addestramento degli algoritmi e la resa riconoscibile di tutti i contenuti generati da AI per contrastare la disinformazione. Inoltre, i sistemi AI più potenti saranno soggetti a valutazioni di rischio e strategie di mitigazione, con l’obbligo di segnalare eventuali incidenti alla Commissione europea.
La legge prevede multe significative per le aziende che non rispettano le regole, con sanzioni che vanno dall’1,5 al 7% del loro fatturato globale. Queste sanzioni mirano a garantire il rispetto delle normative e a disincentivare comportamenti non conformi. Una delle preoccupazioni chiave è trovare un equilibrio tra la regolamentazione dell’IA per proteggere i diritti fondamentali e la promozione dell’innovazione in Europa. I governi europei erano preoccupati che una regolamentazione troppo stringente potesse frenare l’innovazione, mentre il Parlamento europeo ha sostenuto misure più vincolanti per garantire la responsabilità nell’uso dell’IA.
In conclusione, l’AI Act affronta diverse questioni cruciali legate all’uso dell’IA, tra cui il riconoscimento facciale, la regolamentazione delle applicazioni ad alto rischio e i grandi modelli AI. Queste disposizioni mirano a proteggere i diritti fondamentali e promuovere un utilizzo etico e responsabile dell’IA, ma la loro attuazione pratica e l’equilibrio tra regolamentazione e innovazione sarano argomenti chiave da seguire mentre la legge viene implementata nei prossimi anni.Le incognite associate all’AI Act sono legate principalmente alla sua attuazione all’adattamento delle aziende e all’equilibrio tra regolamentazione e innovazione.
Ecco alcune delle sfide e delle incertezze che potrebbero emergere:Le disposizioni dell’AI Act richiederanno che molte aziende si adeguino alle nuove regole e alle restrizioni sull’uso dell’IA. Questo potrebbe richiedere tempo e risorse significative, soprattutto per le aziende che devono apportare modifiche sostanziali alle loro pratiche e tecnologie. Alcune aziende potrebbero anche essere riluttanti a farlo, il che potrebbe creare tensioni tra l’adeguamento normativo e la continua innovazione. L’IA è una tecnologia in rapida evoluzione. I tempi di attuazione graduale previsti dalla legge potrebbero non essere sufficienti per tenere il passo con i rapidi sviluppi tecnologici. Più la normativa è dettagliata, più rischia di diventare obsoleta rapidamente.
Trovare il giusto equilibrio tra dettaglio normativo e adattabilità potrebbe essere una sfida. C’è preoccupazione che una regolamentazione dettagliata potrebbe diventare inefficace a causa della complessità e della velocità con cui evolvono le tecnologie dell’IA. Tuttavia, l’alternativa di non avere alcuna regolamentazione o di affidarsi esclusivamente ai codici di condotta delle aziende potrebbe non essere sufficiente per proteggere i diritti fondamentali e prevenire abusi. Un altro aspetto critico è il bilancio tra regolamentazione e innovazione. La normativa è necessaria per proteggere i diritti umani e garantire un uso etico dell’IA, ma eccessiva regolamentazione potrebbe soffocare l’innovazione in Europa.
Trovare il giusto equilibrio sarà una sfida cruciale per garantire che l’Europa possa competere con altri attori globali nel campo dell’IA. In conclusione, l’AI Act rappresenta un importante passo avanti nella regolamentazione dell’IA in Europa, ma ci sono molte incognite da affrontare durante il suo processo di attuazione. L’Europa sta cercando di creare un campo da gioco regolamentato per l’IA, ma sarà importante monitorare da vicino come la legge verrà implementata e se sarà in grado di tenere il passo con l’evoluzione rapida della tecnologia. La speranza è che questa normativa aiuti a promuovere l’innovazione responsabile e la competitività europea nel settore dell’IA.
