Man mano che l'intelligenza artificiale prende piede nei vari settori industriali, diventando sempre più integrata nei processi decisionali e nei flussi di lavoro, c'è una questione che diventa sempre più pressante: la fiducia nell'IA.
Come sottolinea Hamilton Mann, vice presidente Digital Marketing e Digital Transformation in Thales, la questione della fiducia nell'IA è molto complessa e può essere analizzata da diversi punti di vista.
Fidarsi dell'IA può significare, in un certo senso, diventare "vulnerabili" alle sue decisioni e incapaci di controllarle. Seppure si tratti di un concetto un po' estremo, di base scegliere di affidarsi alle nuove tecnologie significa renderle potenzialmente sempre più autonome. La decisione su quanta autonomia dargli, però, rimane a noi.
Questa riflessione ha diverse implicazioni fidarsi dell'IA non vuol dire solo assicurarsi che i sistemi eseguano task in modo efficiente e affidabile, ma anche conoscere come funzionano gli algoritmi e se sono in grado di mettere in sicurezza la società.
Ciò significa comprendere e avere fiducia nel modo in cui i sistemi prendono le decisioni, in che modo arrivano a determinate conclusioni e come interagiscono con gli esseri umani.
Ancora, fidarsi dei sistemi di IA vuol dire anche avere fiducia nelle sue capacità di adattamento al singolo interlocutore, in modo che tutti possano interpretare in modo corretto i risultati.
Mann fa l'esempio di un sistema che esegue diagnosi a partire da referti di radiologia: oltre a essere accurato, l'algoritmo deve essere in grado di adattarsi ai bisogni comunicativi del singolo professionista. Un radiologo esperto potrebbe voler conoscere nel dettaglio il ragionamento che ha portato a una determinata diagnosi, legato alle singole feature dell'immagine, mentre un professionista meno navigato potrebbe aver bisogno di una panoramica semplificata.
La questione riguarda poi anche la capacità dell'IA di applicare attivamente misure per mitigare gli errori degli algoritmi, garantendo il massimo livello di privacy e protezione del copyright.
Infine, molti sostengono che un'IA affidabile non solo aumentare le capacità umane, preservandole, ma deve al contempo sostenere e proteggere i diritti e i valori umani.
Arrivare a fidarsi dell'intelligenza artificiale, inteso come integrarla nelle nostre attività quotidiane come se ci fosse sempre stata, è un processo lungo e graduale. Lo stesso è accaduto con i social media: all'inizio i dubbi erano tanti, poi col tempo, mano mano che sempre più persone li utilizzavano, ci si è abituati a condividere sempre più informazioni online e, per l'appunto, a fidarsi di queste piattaforme.
Non per questo bisogna sottostimare i rischi dell'IA: le nuove tecnologie comportano una serie di potenziali conseguenze negative che vanno gestite adeguatamente in modo da sfruttarne tutti i benefici senza però compromettere la sicurezza degli utenti.
Se da una parte è necessario fidarsi dei sistemi di IA, ovvero degli algoritmi che li governano e degli attori che li mettono a disposizione, dall'altra è essenziale definire dei limiti entro i quali le tecnologie possono agire e fino a che punto possono influenzare le decisioni umane.
