L'intelligenza artificiale è sempre più presente nella vita quotidiana, ma ci sono preoccupazioni riguardo alla sua imparzialità e sicurezza.
È importante che i sistemi di IA siano equi, spiegabili e sicuri e che le aziende che li implementano siano responsabili e trasparenti. Come dimostrare l'implementazione responsabile dell'IA in modo obiettivo e verificabile è una sfida importante per le aziende.
A Singapore, l'Autorità per lo sviluppo dei media di comunicazione (IMDA) e la Commissione per la protezione dei dati personali (PDPC) hanno sviluppato A.I. Verify, un framework e un toolkit di test di governance dell'IA per aiutare le industrie a essere più trasparenti sulla loro implementazione dell'IA.
A.I. Verify ha due componenti: un framework di test di governance che specifica i criteri verificabili e i processi necessari per eseguire il test, e un toolkit software che conduce test tecnici e registra i risultati dei controlli di processo.
Disponibile come Minimum Viable Product (MVP), le aziende possono utilizzare A.I. Verify per dimostrare cosa possono fare i loro sistemi di intelligenza artificiale e quali misure sono state adottate per mitigare i rischi dei loro sistemi di intelligenza artificiale.
Il processo di A.I. Verify porta trasparenza e aiuta a creare fiducia nell'IA. Non stabilisce standard etici, ma convalida le affermazioni delle aziende sui loro sistemi di IA rispetto a una serie di principi di governance dell'IA accettati a livello internazionale.
Una richiesta di collaborazione
A.I. Verify ha l’obbiettivo di migliorare il framework e il toolkit software per soddisfare le esigenze del settore, contribuire allo sviluppo di standard internazionali di IA, facilitare l'interoperabilità dei framework di governance dell'IA e costruire una comunità di test dell'IA.
In questo modo si spera di creare fiducia tra gli attori interni ed esterni, raccogliere le migliori pratiche del settore e costruire benchmark per gli organismi internazionali di standardizzazione e soddisfare i requisiti normativi dei mercati.
A.I. Verify può essere utilizzato per co-sviluppare benchmark per livelli accettabili di aderenza ai principi di governance dell'IA per diversi settori e casi d'uso.
Inoltre, può lavorare con i fornitori di soluzioni tecnologiche per identificare lacune e opportunità di sviluppo negli attuali metodi e tecnologie di test dei modelli di IA, così come per ideare modi migliori per verificare l'IA affidabile.
Per creare fiducia, è importante comunicare efficacemente il comportamento delle applicazioni di IA a tutte le parti interessate, quindi è necessario sviluppare modelli di report personalizzati che rispondano alle specifiche esigenze di informazione.
Per raggiungere questi obiettivi, l'IMDA / PDPC organizzerà tavole rotonde e workshop per coinvolgere l'industria e sviluppare il consenso sui parametri di riferimento del settore per un'IA affidabile, che poi potranno essere condivisi con gli organismi internazionali di standardizzazione come contributo della comunità al discorso globale sulla costruzione degli standard.
Il progetto pilota faciliterà la raccolta e lo sviluppo di parametri di riferimento del settore per i principi etici dell'IA. L'obiettivo è di superare gli ostacoli all'implementazione di un'IA affidabile per le aziende e migliorare la loro capacità di fornire prodotti e servizi abilitati all'IA in più mercati.
