AI Act, dal 2 agosto scattano i controlli della Commissione europea: obbligo di trasparenza per chatbot e contenuti generati dall’IA
Da domenica 2 agosto entrano in vigore le regole dell’AI Act, il regolamento europeo sull’intelligenza artificiale. In particolare, sono previsti nuovi obblighi di trasparenza, che impongono ad alcuni sistemi di intelligenza artificiale di avvisare gli utenti quando stanno interagendo con una macchina e non con una persona, e quando un contenuto è stato generato o modificato dall’IA.
In base alle nuove norme, i chatbot e gli altri sistemi di IA interattivi dovranno dichiarare esplicitamente agli utenti di non essere umani. I deepfake – immagini, video o audio modificati o generati con l’intelligenza artificiale – dovranno essere etichettati come tali, mentre i contenuti generati o alterati dall’IA dovranno portare marcature leggibili dalle macchine, così da poter essere individuati più facilmente.
L’obiettivo delle misure, spiega Bruxelles, è quello di “ridurre inganni e manipolazioni e aiutare le persone a fare scelte informate, oltre a offrire alle imprese obblighi più chiari e strumenti concreti per dimostrare la propria conformità”.
Da questa settimana l’Ufficio per l’IA può far rispettare le regole dell’AI Act ai fornitori di modelli di intelligenza artificiale per uso generale (GPAI), sistemi capaci di svolgere compiti diversi e utilizzati in una vasta gamma di strumenti e servizi, compresi gli agenti IA. Le norme riguardano anche i modelli più avanzati, quelli che possono comportare rischi sistemici: i loro fornitori dovranno rispettare obblighi aggiuntivi per affrontare rischi di danni su larga scala, compresi quelli legati a incidenti chimici, biologici, radiologici e nucleari, alla perdita di controllo sui sistemi, agli attacchi informatici, alla manipolazione dannosa e alle minacce ai diritti fondamentali – temi su cui si è concentrata di recente anche l’attenzione dell’opinione pubblica, in particolare i rischi per la sicurezza informatica europea e per il controllo umano sull’IA.
Tutti i fornitori di modelli GPAI dovranno inoltre documentare determinate informazioni e metterle a disposizione delle autorità competenti o dei fornitori a valle, dotarsi di una politica sul diritto d’autore e pubblicare una sintesi sufficientemente dettagliata dei contenuti utilizzati per addestrare i propri modelli.
Entreranno in vigore anche gli obblighi di trasparenza e i divieti relativi alle pratiche di IA considerate vietate, che riguardano in particolare i sistemi che manipolano le persone, sfruttano le loro vulnerabilità in modo dannoso o le classificano ingiustamente in modi che minacciano i loro diritti.
La responsabilità di far rispettare le regole sulla trasparenza e i divieti sarà suddivisa tra tre soggetti: l’Ufficio per l’IA vigila sui sistemi offerti dallo stesso fornitore del modello di IA per uso generale sottostante, oltre che su quelli integrati in piattaforme online molto grandi o motori di ricerca online molto grandi designati ai sensi del Digital Services Act. Le autorità nazionali competenti vigileranno invece sugli altri sistemi di IA, mentre il Garante europeo della protezione dei dati vigila sui sistemi utilizzati dalle istituzioni, dagli organi e dalle agenzie dell’Unione europea. L’efficacia dei controlli, avverte la Commissione, dipenderà anche dalla capacità degli Stati membri di designare correttamente le proprie autorità nazionali e dotarle di risorse adeguate.
Gli strumenti di segnalazione.
Per supportare l’attività di vigilanza, l’Ufficio per l’IA ha lanciato diversi strumenti per cittadini e imprese: uno strumento per le segnalazioni, che permette a persone fisiche e giuridiche di denunciare presunte violazioni dell’AI Act da parte dei fornitori di sistemi di IA sotto la sua supervisione, e uno strumento dedicato agli informatori, pensato per chi lavora con fornitori di sistemi di IA o di modelli per uso generale e vuole segnalare in modo sicuro possibili violazioni. È previsto anche un canale specifico per i fornitori che costruiscono sistemi di IA sui modelli per uso generale e vogliono segnalare presunte infrazioni commesse dai fornitori di quei modelli.
foto di Gerd Altmann da Pixabay.com
