Il 1° agosto scorso è entrato in vigore l'AI Act. La normativa è il primo quadro giuridico al mondo che affronta i rischi dell'IA e fornisce agli sviluppatori e agli utilizzatori indicazioni chiare su requisiti e obblighi.
Oltre a imporre regole per lo sviluppo e l'uso dei sistemi di IA, la normativa ha identificato alcune categorie di applicazioni considerate pericolose che saranno vietate a partire dal 2 febbraio 2025.
Le compagnie europee hanno meno di 10 settimane per rimuovere questi strumenti vietati, pena il pagamento di multe molto elevate (fino a 35 milioni di euro o pari al 7% del fatturato mondiale del gruppo).
"Con meno di 10 settimane per garantire la conformità, le aziende devono iniziare a valutare il loro rischio in questo settore e sviluppare piani per affrontare qualsiasi area di potenziale non conformità. Le multe sono state fissate a un livello ancora più alto rispetto al GDPR e ci aspettiamo che l'Ue applichi il nuovo regime fin dal primo giorno; non ci aspettiamo un periodo di grazia per la non conformità come nel caso del GDPR" ha commentato Gianluigi Marino, Head of Digitalisation in Italia, Osborne Clarke.
Nel dettaglio, l'AI Act ritiene inaccettabili i sistemi che utilizzano tecniche subliminali, manipolative o ingannevoli e che sfruttano le vulnerabilità delle persone, ad esempio in relazione a età e/o disabilità.
La normativa vieta inoltre i sistemi che fanno uso di database di riconoscimento facciale creati attraverso il web-scraping e le applicazioni usate sul posto di lavoro o in contesti educativi per inferire le emozioni di una persona.
Sono considerati a rischio inaccettabile, perché pericolosi per la salute, la sicurezza o i diritti fondamentali, anche i sistemi di categorizzazione biometrica in cui le informazioni di una persona vengono usate per dedurre caratteristiche sensibili (etnia, opinioni politiche, appartenenza a sindacati, convinzioni religiose o filosofiche e l'orientamento sessuale).
Infine, da febbraio 2025 saranno vietati ufficialmente i sistemi che prevedono la probabilità che una persona commetta un reato basandosi solo sul profilo o sulla valutazione dei suoi tratti di personalità, così come i sistemi di riconoscimento facciale a distanza in tempo reale.
"La Commissione Ue ritiene che sia stato dato un preavviso sufficiente per consentire a tutte le aziende dell'Ue di conformarsi, comprese quelle che rientrano nell'ambito dello Spazio Economico Europeo (SEE) e le aziende internazionali con clienti e siti web che operano nell'Ue" ha concluso Marino.