Oggi tutti parlano di intelligenza artificiale e tutti (o quasi) sostengono di integrarla nelle proprie applicazioni per potenziare il business aumentando la produttività. Anand Oswal, SVP & GM di Network Security presso Palo Alto Networks, sottolinea che l'IA non è affatto un concetto nuovo ed era già utilizzato da molti provider di servizi tecnologici; la differenza è che ora che l'entusiasmo è esploso, organizzazioni di ogni settore vogliono mettere le mani sulle tecnologie di IA più avanzate per supportare nuovi processi.
L'IA ormai è presente in qualsiasi tipo di applicazione, da quelle per l'ottimizzazione della supply chain a quelle per l'automazione dei processi industriali; dai chatbot del customer service ai tool per l'identificazione delle frodi.
Non mancano però i rischi legati all'uso di questa tecnologia: Oswal riporta, tra gli altri esempi, la presenza di vulnerabilità nei modelli utilizzati, dati "avvelenati" o comunque non corretti o imprecisi, attacchi di prompt injection che possono alterare i comportamenti dei modelli, senza considerare le implicazioni etiche e di privacy legate a un uso improprio dei tool di IA.
L'intelligenza artificiale è una tecnologia che ha il potenziale di cambiare profondamente il modo di lavorare, ma proprio per via della sue enormi capacità introduce una serie di complessità che vanno gestite per ridurre il più possibile i rischi.
Come trarre il potenziale dall'IA riducendo i rischi
Come può allora un business trarre il massimo potenziale da questa tecnologia senza compromettere la sicurezza delle operazioni?
Oswal sottolinea che la prima cosa da fare è assicurarsi di avere visibilità completa su ogni componente dell'ecosistema di IA, incluse le applicazioni, i modelli, i processi di inferenza, i dataset di training e gli eventuali plugin.
In seguito, vanno analizzati tutti i rischi presenti nella supply chain, così come quelli di data exposure delle applicazioni di IA, identificando il livello di gravità per rimediare prima a quelli più prioritari.
Infine, si passa alla gestione dei rischi a runtime, ovvero tutte le minacce a cui sono esposte le applicazioni una volta che sono state messe in funzione. I cyberattaccanti sono particolarmente interessati alle nuove applicazioni di IA poiché esse "maneggiano" dati sensibili dell'azienda; inoltre, in molti casi i tool di IA hanno delle vulnerabilità non gestite e componenti non testate che possono rappresentare un vero pericolo per le imprese, essendo più facili da sfruttare.
In questo caso è fondamentale investire su soluzioni di sicurezza a runtime che proteggono le applicazioni dagli ultimi attacchi contro l'IA, riducendo il rischio di avvelenamento o sottrazione dei dati.
Occupandosi di ridurre la probabilità di usi impropri di tool e modelli, le imprese possono trarre molti benefici dall'IA e trasformare questa tecnologia in un vero vantaggio competitivo.
