AI Act: il Regolamento europeo sull’Intelligenza Artificiale è quasi ufficiale

È stato raggiunto l'accordo storico tra il Parlamento e il Consiglio sull'Artificial Intelligence Act. Dopo un lungo processo istituzionale, iniziato con la proposta della Commissione Europea nel 2021, l'UE ha definito – nelle ultime trattative durate 36 ore – un quadro normativo innovativo volto a garantire la sicurezza dell'uso dell’intelligenza artificiale, nel rispetto dei diritti fondamentali e della democrazia.

In sintesi, cosa prevede il testo?

Nell’accordo sono elencate una serie di restrizioni che mirano a preservare i diritti individuali, la privacy e a prevenire potenziali abusi derivanti dall'applicazione di sistemi di IA in ambiti sensibili come luoghi di lavoro, istituzioni educative e servizi pubblici. Sono espressamente vietati:

- l'utilizzo di sistemi biometrici che categorizzano sulla base di caratteristiche sensibili come convinzioni politiche, religiose, filosofiche, orientamento sessuale e razza;

- l’acquisizione (scraping) non mirata di immagini facciali da Internet o da sistemi di videosorveglianza per creare database di riconoscimento facciale;

- il riconoscimento delle emozioni sul posto di lavoro e nelle istituzioni educative;

- il calcolo di punteggi sociali basati sul comportamento sociale o sulle caratteristiche personali; 

- l'uso di IA per manipolare il comportamento umano al fine di eludere il libero arbitrio delle persone;

- l'utilizzo di IA per sfruttare le vulnerabilità delle persone dovute all'età, a disabilità o a situazioni sociali o economiche.

Sono comprese esenzioni specifiche per le forze dell'ordine. Le pratiche salvaguardate riguardano l'uso di sistemi di identificazione biometrica (RBI) in spazi pubblici, subordinato all'autorizzazione giudiziaria e limitato a liste precise di reati. L'RBI "post remoto" sarebbe consentito per la ricerca mirata di individui condannati o sospettati di gravi reati, mentre l'RBI "in tempo reale" sarebbe limitato da rigorose condizioni, quali le ricerche mirate di vittime, prevenzione di minacce terroristiche e localizzazione di sospetti di crimini specifici.

Per i sistemi di intelligenza artificiale considerati ad alto rischio –  a causa dell’impatto che possono avere su salute, sicurezza, diritti fondamentali, ambiente, democrazie e Stato di diritto – sono stati definiti obblighi chiari, tra cui valutazioni obbligatorie dell'impatto sui diritti fondamentali e la possibilità per i cittadini di presentare reclami e ricevere spiegazioni sulle decisioni ad alto rischio. Inoltre, sono stati stabiliti guardrail specifici per i sistemi di intelligenza artificiale generale (GPAI), richiedendo trasparenza, documentazione tecnica e sintesi dettagliate sui contenuti utilizzati per l'addestramento. I modelli GPAI ad alto impatto con rischio sistemico saranno soggetti a obblighi più severi, come valutazioni del modello, gestione dei rischi sistemici e reportistica dettagliata.

In sostegno all’innovazione, le piccole e medie imprese che sviluppano sistemi di AI sarebbero tutelate dalla pressione indebita dei giganti del settore. A questo scopo, saranno promossi dalle autorità nazionali dei sistemi per sviluppare e testare le innovazioni nel settore dell'intelligenza artificiale, prima che queste siano immesse nel mercato.

Sono previste sanzioni per il mancato rispetto delle norme: multe da 35 milioni di euro o il 7% del fatturato globale a 7,5 milioni o l'1,5% del fatturato, a seconda dell'infrazione e delle dimensioni aziendali.

Cosa aspettarsi?

Nelle prossime fasi dell'AI Act, il testo concordato passerà attraverso l'adozione formale da parte del Parlamento – in seguito alla votazione delle Commissioni per il Mercato Interno e le Libertà Civili – e del Consiglio per diventare vincolante per tutti i Paesi dell'UE.

Quando il regolamento entrerà in vigore, ci si aspetta una nuova era per l’intelligenza artificiale, non solo in Europa, ma anche nel resto del mondo. L'Artificial Intelligence Act potrebbe costituire la base per altre legislazioni globali, similmente a come il Regolamento generale sulla protezione dei dati ("GDPR") dell'UE ha stabilito standard per altre leggi globali sulla privacy.