Gli agenti AI per gli acquisti promettono di cercare prodotti e completare ordini per conto degli utenti, ma le banche chiedono che le tutele tengano il passo. Un rapporto firmato da un gruppo che comprende Bank of America, Capital One, NatWest, ASB Bank e Commonwealth Bank of Australia segnala il rischio di truffe, frodi e violazioni della riservatezza dei dati. L'avvertimento riguarda ciò che potrebbe accadere quando un software riceve la possibilità di intervenire direttamente nel percorso d'acquisto.
Il rapporto descrive consumatori incerti su un punto: se l'agente agirà davvero nel loro interesse. Le preoccupazioni indicate dalle banche vanno dall'acquisto del prodotto sbagliato a una spesa superiore a quella desiderata, fino alla perdita di denaro per truffe e frodi. In caso di problemi, gli utenti potrebbero inoltre non sapere a chi rivolgersi o quali protezioni siano disponibili. Sono dubbi che accompagnano l'entusiasmo per una tecnologia capace di assumere un ruolo più attivo nelle transazioni.
Le aziende tecnologiche stanno mettendo a disposizione dei consumatori agenti sempre più capaci, utilizzabili per seguire i prodotti e anche per comprarli. La differenza rispetto a un chatbot conversazionale sta nelle azioni che il sistema può compiere: un agente può interagire con altri servizi, compilare moduli ed effettuare acquisti con il grado di autonomia concesso dall'utente. Il passaggio dalla ricerca di informazioni all'esecuzione di un ordine porta quindi le decisioni del software dentro attività che coinvolgono denaro e dati personali.
Un segnale della presenza crescente di questi strumenti nello shopping arriva da John Lewis. Il rivenditore britannico ha dichiarato in settembre che le ricerche provenienti da agenti AI erano salite dallo 0,3% dell'anno precedente al 2,5%, mentre cresceva anche la quota di traffico attribuita agli agenti. Il dato riguarda le ricerche, ma mostra che i sistemi capaci di accompagnare gli utenti verso un acquisto stanno già diventando una via d'accesso ai negozi online.
Tra i rischi concreti individuati dalle banche c'è la possibilità che un agente chieda i dati della carta al cliente e li inserisca direttamente in un sito. Un altro scenario è che indirizzi l'utente verso metodi di pagamento con tutele più deboli. In entrambi i casi, la scelta compiuta dal sistema incide sul modo in cui il consumatore paga e sulla protezione delle sue informazioni. Il rapporto avverte che la diffusione della tecnologia potrebbe procedere più rapidamente delle garanzie per gli utenti e degli standard del settore.
Le banche intendono discutere con i decisori pubblici alcune proposte per la tutela dei consumatori. Tra queste figurano l'obbligo di dichiarare quando un agente AI partecipa a una transazione, una maggiore trasparenza sui criteri con cui prende le decisioni e salvaguardie per i dati dei clienti. Sapere che un acquisto coinvolge un agente e capire come arriva a una scelta sono due condizioni che il rapporto porta al centro del confronto sulle regole.
Il gruppo chiede anche che consumatori ed esercenti possano scegliere liberamente quali servizi di commercio elettronico basati sull'AI utilizzare e che i diversi sistemi siano interoperabili. È una questione che riguarda l'intero percorso d'acquisto: l'agente opera su istruzione dell'utente, ma deve dialogare con negozi e strumenti di pagamento. Le proposte delle banche puntano così a definire come rendere riconoscibile il suo intervento e quali garanzie accompagnino le operazioni che può eseguire.