News "Denunciare" l'IA sarà più semplice: nuove regole dall'UE

Marina Londei

Tempo di lettura: 1' 47''

Pubblicato il: 26/10/2022

La Commissione Europea ha annunciato delle regole più stringenti mirate a garantire più tutele per chi viene danneggiato da sistemi di intelligenza artificiale.

Nel whitepaper pubblicato sul sito ufficiale della Commissione si propongono nuove indicazioni per mitigare i rischi legati all'IA e tutelare gli eventuali danni a persone o associazioni. 

In una società in cui l'IA è sempre più presente è necessario rivalutare l'impatto che questi sistemi possono avere sul singolo e sulla comunità. Droni, robot e macchine a guida autonoma hanno cambiato sensibilmente il modo di vivere e continueranno a farlo, e per questo emerge la necessità di regolamentare la convivenza tra uomo e macchina.

La Commissione Europa ha tracciato una serie di limiti per l'intelligenza artificiale, definendo quando un sistema va considerato pericoloso o inaffidabile. Le variabili in questa equazione sono l'ambito in cui il sistema opera (uno tra tutti quello sanitario) e lo scopo per cui viene usato: un sistema di appuntamenti che sfrutta l'IA non pone gli stessi rischi di uno che opera a fianco dei chirurghi o degli infermieri.

https://pixabay.com/it/photos/robot-braccio-tecnologia-2791670/

In base al livello di rischio rilevato per un sistema si applicano diverse regole nel caso in cui si verifichi un evento non previsto e avverso. 

Le nuove indicazioni prevedono che la persona o l'ente che ha subito dei danni debba riuscire a dimostrare che la colpa sia stata del sistema di IA, e che quindi l'evento non dipenda da disattenzione o errori della vittima.

Se la tecnologia non ha rispettato determinati requisiti e si è verificato un evento anomalo durante il flusso di operazioni, il querelante ha diritto a un risarcimento. La vittima ha inoltre la possibilità di accedere alle informazioni del sistema per verificarne personalmente il comportamento desiderato.

La compagnia produttrice e quella che fa uso del sistema hanno il dovere di fornire tutte le informazioni necessarie sui rischi dell'IA in uso ed eventualmente identificare il personale che non ha agito secondo le indicazioni di sicurezza.

Per il momento le regole proposta dall'UE sono ancora in bozza, pronte per essere discusse ed eventualmente approvate dagli stati dell'Unione.