Le piattaforme software per la gestione delle spese aziendali stanno lanciando un allarme inquietante: i dipendenti utilizzano sempre più spesso l'intelligenza artificiale generativa per creare ricevute false e truffare i propri datori di lavoro. Si tratta di un fenomeno in rapida espansione che sfrutta le capacità dei modelli di generazione di immagini più avanzati, trasformando quello che un tempo richiedeva competenze tecniche specifiche in un'operazione alla portata di chiunque. Bastano pochi secondi e semplici comandi testuali a un chatbot per ottenere documenti fiscali falsi ma dall'aspetto perfettamente credibile.
La dimensione del problema secondo i dati delle aziende
I numeri raccolti dalle principali società del settore dipingono un quadro allarmante. AppZen, fornitore di software per la gestione delle spese, ha rilevato che circa il 14% di tutti i documenti fraudolenti presentati il mese scorso erano ricevute generate dall'intelligenza artificiale, mentre appena un anno fa questa percentuale era pari a zero. La piattaforma FinTech Ramp ha dichiarato che il suo nuovo software ha individuato oltre un milione di dollari in fatture false nell'arco di soli 90 giorni.
Un sondaggio condotto dalla piattaforma di gestione spese Medius ha rivelato che circa il 30% dei professionisti finanziari britannici e americani intervistati ha notato un aumento delle ricevute falsificate dopo il lancio di GPT-4o di OpenAI nel 2024. Questi dati confermano come il fenomeno sia esploso in concomitanza con il rilascio di strumenti di intelligenza artificiale sempre più sofisticati e accessibili al grande pubblico.
Quando gli occhi non bastano più
Chris Juneau, vicepresidente senior e responsabile del marketing di prodotto per SAP Concur, piattaforma che elabora oltre 80 milioni di controlli di conformità al mese utilizzando l'intelligenza artificiale, ha dichiarato senza mezzi termini: "Questi documenti sono diventati talmente credibili che diciamo ai nostri clienti: 'Non fidatevi dei vostri occhi'". La qualità delle ricevute false ha raggiunto livelli tali da ingannare anche gli esperti più attenti.
Le piattaforme di gestione spese hanno mostrato esempi di ricevute con dettagli realistici impressionanti: pieghe sulla carta, elenchi dettagliati di articoli coerenti con menu di ristoranti reali e persino firme autentiche. Diversi operatori hanno segnalato un balzo significativo nel numero di ricevute generate dall'intelligenza artificiale dopo il debutto del modello migliorato di generazione di immagini di GPT-4o lo scorso marzo.
La democratizzazione della frode
Il vero salto qualitativo rispetto al passato non riguarda solo la sofisticazione dei documenti prodotti, ma soprattutto la loro accessibilità. Un tempo, creare un documento fraudolento richiedeva competenze di fotoritocco o la disponibilità a pagare fornitori online specializzati. Oggi, software gratuiti di generazione di immagini permettono a chiunque di falsificare ricevute in pochi secondi semplicemente impartendo comandi testuali a chatbot di intelligenza artificiale.
OpenAI ha fatto sapere che interviene quando le sue politiche vengono violate e che le immagini prodotte contengono metadati che indicano la loro creazione tramite ChatGPT. Tuttavia, questa misura di sicurezza potrebbe non essere sufficiente a contenere un fenomeno che si sta diffondendo rapidamente e che rappresenta solo la punta dell'iceberg di una problematica ben più ampia.
Una minaccia che va oltre le ricevute false
La falsificazione di ricevute attraverso l'intelligenza artificiale generativa si inserisce in un contesto più ampio di frodi finanziarie sempre più sofisticate. Gli attacchi guidati dall'IA moderna non si limitano più alle tradizionali email di phishing: i truffatori utilizzano ora tecnologie di clonazione vocale e video deepfake per impersonare dirigenti aziendali, convincendo i dipendenti ad autorizzare trasferimenti di fondi ingenti.
La facilità con cui strumenti di intelligenza artificiale generativa permettono anche a criminali di basso livello di produrre falsificazioni di alta qualità sta sfumando i confini tra comunicazioni genuine e false. Secondo ricerche recenti, i dipartimenti contabilità sono diventati bersagli privilegiati di queste tecniche avanzate di frode, con il 68% delle organizzazioni che ha subito almeno un tentativo di truffa nell'ultimo anno.
Le frodi nei confronti dei reparti pagamenti si manifestano in varie forme: attacchi di phishing, acquisizioni di account aziendali e frodi relative alle fatture. L'intelligenza artificiale generativa ha trasformato la frode finanziaria, rendendola più sofisticata e più difficile da individuare. Mentre le aziende sfruttano le capacità dell'IA per aumentare l'efficienza operativa, i cybercriminali la utilizzano per architettare schemi fraudolenti sempre più convincenti, creando una vera e propria corsa agli armamenti tecnologici tra sistemi di difesa e strumenti di attacco.