Il 21 aprile la Commissione ha presentato la proposta di primo regolamento in assoluto sull’intelligenza artificiale (AI), il cui testo è disponibile al seguente link
La proposta fa parte di un più ampio pacchetto sull’intelligenza artificiale che include anche il piano coordinato aggiornato sull'intelligenza artificiale.
La proposta normativa mira a fornire agli sviluppatori e agli utilizzatori di AI requisiti e obblighi chiari per quanto riguarda gli usi specifici dell'AI. In particolare, nel regolamento sono stabiliti:
- norme armonizzate per l'immissione sul mercato, la messa in servizio e l'uso di sistemi di intelligenza artificiale nel mercato dell’Unione Europea;
- divieti di alcune pratiche di intelligenza artificiale;
- requisiti specifici per sistemi di IA ad alto rischio e obblighi per gli operatori di tali sistemi;
- regole di trasparenza per i sistemi di intelligenza artificiale destinati a interagire con persone fisiche, sistemi di riconoscimento delle emozioni e sistemi di categorizzazione biometrica e sistemi di intelligenza artificiale utilizzati per generare o manipolare contenuti di immagini, audio o video;
- norme in materia di monitoraggio e sorveglianza del mercato
La Commissione propone un approccio basato sul rischio per quanto riguarda i sistemi di IA: i) rischio inaccettabile; ii) ad alto rischio; iii) rischio limitato; iv) rischio minimo.
I sistemi di intelligenza artificiale sono considerati ad alto rischio quando soddisfano due condizioni:
- Il sistema di IA è destinato a essere utilizzato come componente di sicurezza di un prodotto, o è esso stesso un prodotto, disciplinato dalla normativa di armonizzazione dell'Unione elencata nell'allegato II;
e
- Il prodotto il cui componente di sicurezza è il sistema di intelligenza artificiale, o il sistema di intelligenza artificiale stesso in quanto prodotto, deve essere sottoposto a una valutazione di conformità da parte di terzi ai fini dell'immissione sul mercato o della messa in servizio di tale prodotto ai sensi delle legislazioni normative di armonizzazione elencata nell'allegato II.
L'allegato II elenca dodici atti legislativi di armonizzazione dell'UE, tra i quali la direttiva macchine, le attrezzature a pressione, l'ATEX e la direttiva sulle apparecchiature radio e la maggior parte della legislazione dell'UE applicabile ai veicoli.
Questa formulazione significa che l'unico modo per essere sicuri che un sistema di IA sia o meno ad alto rischio è verificare nel testo della pertinente direttiva di prodotto applicabile se è sottoposto a valutazione di conformità da parte di terzi o ad autodichiarazione della conformità.
L’Allegato III della proposta di regolamento definisce una serie di applicazioni come sistemi di IA ad alto rischio, in particolare per quanto riguarda la gestione e il funzionamento delle infrastrutture critiche.
tali sistemi ad alto rischio dovranno soddisfare una serie di requisiti:
- Istituzione di un sistema di gestione del rischio
- data governance (formazione, validazione e test di dataset)
- Documentazione tecnica
- Registrazione degli eventi (tracciabilità),
- Trasparenza nei rapporti con gli utenti
- Supervisione umana
- Robustezza, precisione e sicurezza.
In generale, la proposta di Regolamento descrive gli obblighi dei fornitori, rappresentanti autorizzati, importatori, distributori, utenti di sistemi di IA ad alto rischio, nonché degli organismi di terza parte coinvolti nella catena del valore dell'IA; inoltre, il regolamento istituisce una banca dati in cui i fornitori dovranno registrare i sistemi di IA ad alto rischio prima di immetterli sul mercato.