Opinioni Le aziende sottovalutano i rischi dei modelli generativi

Marina Londei

Tempo di lettura: 2' 7''

Pubblicato il: 17/05/2023

L’entusiasmo dei leader aziendali nei confronti dell’IA generativa ha oscurato i rischi derivanti dall’uso improprio dei modelli. Come riportato da Baker McKenzie nella sua indagine, i manager di business sottostimano i pericoli dei tool generativi per l’impresa, e solo il 4% di essi è consapevole degli impatti negativi che ne conseguono.

Secondo gli esperti della società di studi legali, le aziende non sono ancora pronte a integrare l’IA nei propri flussi di lavoro proprio perché mancano della giusta esperienza per gestire il rischio; nonostante ciò, il 75% delle compagnie intervistate ha affermato di usare strumenti di intelligenza artificiale per l’assunzione e la gestione del personale.

I modelli generativi soffrono di numerosi rischi etici e di privacy, soprattutto quando non vengono implementati processi di anonimizzazione dei dati; c’è poi la questione della proprietà intellettuale sia dell’input che dell’output e i problemi di copyright.

Pixabay

I governi stanno lavorando a legislazioni per regolare l’uso dei modelli: l’Artificial Intelligence Act voluto dall’Unione Europea, ancora in discussione, sarà il primo compendio di normative per definire i limiti e le linee guida nell’uso dell’IA generativa.

Le imprese si stanno muovendo su un terreno ancora per lo più sconosciuto e, se non prenderanno al più presto coscienza dei rischi dei modelli, potrebbero incappare in complicanze legali e sanzioni con gravi conseguenze per il business.

Secondo Baker McKenzie, le imprese dovrebbero combinare gli sforzi di tutti gli stakeholder per definire un framework d’azione robusto.

Data scientist, leader di business, esperti di privacy e le risorse umane devono far parte del processo decisionale relativo agli strumenti di IA da utilizzare; è inoltre fondamentale fare affidamento su un Chief AI Officer, una figura in grado di comprendere tutte le implicazioni delle tecnologie di IA e trarre il massimo vantaggio dai tool.

In una situazione ad alto rischio come quella attuale, questo ruolo diventa critico per definire framework per identificare gli errori nell’output e meccanismi per garantire i requisiti di privacy, equità e trasparenza. 

Pixabay

I benefici dell’IA generativa superano i rischi, ma le conseguenze dell’uso sconsiderato dei modelli possono essere molto gravi e vanno evitate stabilendo delle linee guida efficaci. Solo grazie a una fattiva collaborazione tra i team aziendali e affidandosi alle figure giuste è possibile trarre il massimo valore dall’IA generativa e minimizzare i pericoli.