Tra i rischi della diffusione dell’IA generativa e la relativa semplicità di utilizzo per le masse c’è la creazione di un gran numero di recensioni false. Sanjay Ghare, fondatore di Vervotech e Techspian, ha parlato della questione dal punto di vista del settore viaggi e turismo, dove è attivo.
L’ecosistema dei viaggi si basa ampiamente sulle recensioni dei viaggiatori: che sia per una vacanza o un soggiorno di lavoro, le persone fanno affidamento alle opinioni di chi ha già frequentato determinati posti per scegliere dove alloggiare o mangiare.
Come sottolinea Ghare, la diffusione di ChatGPT permette a chiunque di generare testi pressoché indistinguibili da quelli creati da una persona. Il problema delle recensioni false non è di certo nuovo, ma ora con la diffusione dei modelli generativi si possono generare migliaia di review finte in poco tempo, sia per migliorare la reputazione della propria attività che per affossare quella altrui.
Combattere le recensioni false dell'IA
Finora era relativamente semplice individuare recensioni create ad hoc, per esempio verificando l’identità del viaggiatore o basandosi sulle sue attività. Con le nuove tecnologie i vecchi metodi non sono più sufficienti: il volume e la qualità delle review sono troppo elevati per controllare il fenomeno.
Il settore del turismo non può ignorare questa problematica. Ghare consiglia tre possibili soluzioni per dare un freno all’attività delle recensioni false: in primis, si può ricorrere all’intelligenza artificiale per individuare le review generate dagli strumenti generativi. È il modo più efficace per analizzare grandi volumi di recensioni e oscurare quelle false.
I portali di viaggio possono inoltre predisporre un team di monitoraggio che integri l’attività dell’intelligenza artificiale con delle revisioni specializzate. Vista la potenziale quantità di recensioni finte, questi team potrebbero intervenire in caso di situazioni meno chiare e definire linee guida per l’inserimento delle review.
Infine, i portali di viaggio e di recensioni dovrebbero istruire i propri clienti, sia quelli fissi che soprattutto potenziali, sull’esistenza del problema e utilizzare le informazioni raccolte dai tool per aiutare i consumatori ad avere un occhio più critico nella lettura delle recensioni.
Ancora una volta l’IA presenta vantaggi e rischi: le tecnologie generative possono essere usate per combattere i fenomeni negativi che nascono da un uso sconsiderato delle stesse, sempre con una supervisione attenta dei processi.
