Presto entrerà in vigore la "Legge sull'Intelligenza Artificiale" o "Regolamento sull'Intelligenza Artificiale", che proteggerà i cittadini dell'UE dai potenziali eccessi dell'IA, conferendo al contempo all'UE un ruolo di primo piano nell'industria globale dell'IA.

Dopo diversi mesi di trattative, un accordo politicol 9 dicembre 2023 i colegislatori europei (Parlamento e Consiglio) hanno raggiunto un accordo che apre la strada al voto finale.

Ecco cosa ne pensa la Presidente della Commissione europea, Ursula von der Leyen:

«L’intelligenza artificiale sta già cambiando la nostra vita quotidiana. E questo è solo l’inizio. Un’IA utilizzata in modo oculato e su larga scala promette vantaggi considerevoli per la nostra economia e la nostra società. Per questo motivo accolgo con grande favore l’accordo politico sul regolamento relativo all’intelligenza artificiale raggiunto oggi dal Parlamento europeo e dal Consiglio. Questo regolamento europeo è il primo quadro giuridico completo al mondo in materia di intelligenza artificiale. Si tratta quindi di un momento storico. Il regolamento sull'IA porta i valori europei in una nuova era. Concentrando la regolamentazione sui rischi identificabili, l'accordo raggiunto oggi favorirà l'innovazione responsabile in Europa. Garantendo la sicurezza e i diritti fondamentali dei cittadini e delle imprese, il regolamento sull'IA contribuirà allo sviluppo, alla diffusione e all'adozione di un'IA affidabile nell'UE. Il nostro regolamento sull’IA darà un contributo sostanziale all’elaborazione di norme e principi globali per un’IA incentrata sull’uomo.»

Negli ultimi quattro anni, il Forum Europeo dei Massoni ha avuto un gruppo di lavoro accreditato presso la Commissione e il Parlamento per contribuire allo sviluppo del futuro AI-ACT.

Ecco le fasi principali del processo legislativo:

A seguito della pubblicazione della strategia europea sull'intelligenza artificiale nel 2018 e dopo un'ampia consultazione delle parti interessate, il gruppo di esperti di alto livello sull'intelligenza artificiale ha elaborato nel 2019 delle linee guida per un'IA affidabile, nonché nel 2020 una lista di valutazione per un'IA affidabile. Parallelamente, il primo piano coordinato sull'IA è stato pubblicato nel dicembre 2018 nell'ambito di un impegno comune con gli Stati membri.

Il Libro bianco della Commissione sull'IA, pubblicato nel 2020, definiva una visione chiara dell'IA in Europa: un ecosistema di eccellenza e fiducia, che getta le basi dell'accordo politico raggiunto oggi. La consultazione pubblica relativa al Libro bianco sull'IA ha suscitato numerosi contributi provenienti da tutto il mondo. Il Libro bianco era accompagnato da una «relazione sulle conseguenze dell’intelligenza artificiale, dell’Internet delle cose e della robotica sulla sicurezza e la responsabilità», che concludeva che l’attuale legislazione sulla sicurezza dei prodotti presenta una serie di lacune che devono essere colmate, in particolare nella direttiva «Macchine».

I principi guida di AI-ACT sono i seguenti:

Le nuove norme, basate su una definizione di IA a prova di futuro, saranno applicabili direttamente e in modo identico in tutti gli Stati membri. Esse seguono un approccio basato sul rischio:

Rischio minimo : la stragrande maggioranza dei sistemi di IA rientra in questa categoria. Le applicazioni a rischio minimo, come i sistemi di raccomandazione o i filtri antispam basati sull’IA, saranno esentate da qualsiasi obbligo poiché presentano un rischio minimo o nullo per i diritti o la sicurezza dei cittadini. Le imprese potranno tuttavia, su base volontaria, impegnarsi ad adottare codici di condotta supplementari per questi sistemi di IA.

Alto rischio : i sistemi di IA considerati ad alto rischio dovranno soddisfare requisiti rigorosi, in particolare per quanto riguarda i sistemi di mitigazione dei rischi; la qualità dei set di dati utilizzati, la registrazione delle attività; la documentazione dettagliata; la fornitura di informazioni chiare all'utente; il controllo umano, nonché un elevato livello di prestazioni in termini di robustezza, accuratezza e sicurezza informatica. Le sandbox normative faciliteranno l'innovazione responsabile e lo sviluppo di sistemi di IA conformi a tali requisiti.

Tra i sistemi di IA ad alto rischio figurano, ad esempio, alcune infrastrutture critiche nei settori dell’acqua, del gas e dell’elettricità; i dispositivi medici; i sistemi che determinano l’accesso agli istituti di istruzione o che vengono utilizzati a fini di reclutamento, nonché alcuni sistemi impiegati nei settori dell’ordine pubblico, del controllo delle frontiere, dell’amministrazione della giustizia e dei processi democratici. Inoltre, anche i sistemi biometrici di identificazione, categorizzazione e riconoscimento delle emozioni sono considerati ad alto rischio.

Rischio inaccettabile : i sistemi di IA considerati una minaccia evidente per i diritti fondamentali delle persone saranno vietati. Si tratta in particolare di sistemi o applicazioni di IA che manipolano il comportamento umano per privare gli utenti del loro libero arbitrio, come i giocattoli che utilizzano un'assistenza vocale che induce i minori ad assumere comportamenti pericolosi, o i sistemi che consentono la valutazione sociale da parte degli Stati o delle imprese, e di alcune applicazioni di polizia predittiva. Inoltre, saranno vietati alcuni utilizzi dei sistemi biometrici, ad esempio i sistemi di riconoscimento delle emozioni utilizzati sul posto di lavoro e alcuni sistemi di categorizzazione delle persone o di identificazione biometrica a distanza in tempo reale a fini di polizia in spazi accessibili al pubblico.

Obblighi specifici di trasparenza : Quando utilizzano sistemi di IA come i bot di conversazione, gli utenti dovrebbero essere consapevoli di interagire con una macchina. I video ultra-realistici e gli altri contenuti generati dall'IA dovranno essere contrassegnati come tali, e gli utenti dovranno essere informati dell'uso di sistemi biometrici di classificazione o di riconoscimento delle emozioni. Inoltre, i fornitori saranno tenuti a progettare i sistemi in modo tale che le immagini, i testi, i contenuti audio e video di natura sintetica siano contrassegnati in un formato leggibile da una macchina e che la loro natura di contenuti generati o manipolati artificialmente sia rilevabile.

Il regolamento sull'IA introduce norme specifiche applicabili ai modelli di IA per uso generico, che garantiranno la trasparenza lungo l’intera catena del valore. Per i modelli molto potenti che potrebbero comportare rischi sistemici, saranno imposti ulteriori obblighi vincolanti in materia di gestione dei rischi e monitoraggio degli incidenti gravi, nonché di realizzazione di valutazioni dei modelli e di test contraddittori (adversarial testing). Questi nuovi obblighi saranno attuati tramite codici di buone pratiche elaborati dal settore, dalla comunità scientifica, dalla società civile e da altre parti interessate, in collaborazione con la Commissione.

Per quanto riguarda la governance, Le autorità nazionali competenti per la vigilanza sul mercato supervisioneranno l'attuazione delle nuove norme a livello nazionale, mentre il coordinamento a livello europeo sarà assicurato da un Ufficio europeo per l'IA di recente istituzione presso la Commissione europea. Questo nuovo ufficio per l'IA supervisionerà anche l'attuazione delle nuove norme relative ai modelli di IA per uso generale e il controllo della loro applicazione. Insieme alle autorità nazionali di vigilanza del mercato, l'ufficio per l'IA sarà il primo organismo al mondo a far rispettare norme vincolanti in materia di IA; di conseguenza, dovrebbe diventare un punto di riferimento a livello internazionale. Per i modelli per uso generale, un gruppo scientifico di esperti indipendenti svolgerà un ruolo centrale nell'emissione di segnalazioni sui rischi sistemici e nel contribuire alla classificazione e alla verifica dei modelli.

Sono previste pesanti sanzioni pecuniarie.

Alle imprese che non rispettano le norme verrà inflitta una sanzione. L'importo delle ammende varierà a seconda delle infrazioni commesse: 35 milioni di euro o il 7% del fatturato annuo mondiale (si applica l'importo più elevato) per le violazioni relative alle applicazioni di IA vietate; 15 milioni di euro o il 3% del fatturato annuo mondiale per la violazione di altri obblighi previsti e 7,5 milioni di euro o l’1,5% del fatturato annuo mondiale per la fornitura di informazioni inesatte. Sono previsti limiti massimi più proporzionati per le sanzioni amministrative che saranno inflitte alle PMI e alle start-up in caso di inosservanza del regolamento sull'IA.

Le prossime tappe.

L'accordo politico, che il Parlamento europeo e il Consiglio devono ora approvare formalmente, entrerà in vigore 20 giorni dopo la sua pubblicazione nella Gazzetta ufficiale. Il regolamento sull'IA entrerà in vigore due anni dopo la sua pubblicazione, ad eccezione di alcune disposizioni specifiche: i divieti si applicheranno già dopo sei mesi, mentre le norme relative all'IA per uso generale si applicheranno dopo 12 mesi.

Al fine di coprire il periodo transitorio che precede la data a partire dalla quale il regolamento entrerà in vigore, la Commissione lancerà un patto sull'IA. Tale patto riunirà sviluppatori di IA europei e di tutto il mondo che si impegnano ad attuare, su base volontaria, gli obblighi fondamentali previsti dal regolamento sull'IA prima delle scadenze da esso stabilite.

Al fine di promuovere norme relative a un'intelligenza artificiale affidabile a livello internazionale, l'Unione europea continuerà a impegnarsi in sedi quali il G7, l'OCSE, il Consiglio d'Europa, il G20 e le Nazioni Unite. Recentemente abbiamo sottoscritto l’accordo raggiunto dai leader del G7 nell’ambito del processo di Hiroshima sull’intelligenza artificiale, che riguarda i principi guida internazionali e un codice di condotta volontario applicabili ai sistemi avanzati di IA.

Joël De Decker

Riferimenti

Vari comunicati stampa pubblicati dalla Commissione europea