Un modello di DeepSeek avrebbe generato, nel tentativo di rispondere a un prompt ampio e irrealistico, una tecnica ransomware funzionante contro dispositivi Android. Le nuove analisi di Check Point Research descrivono un campione capace di trasformare un rischio teorico del browser in un metodo d’attacco concreto, senza richiedere exploit, installazione di app o competenze tecniche elevate da parte dell’attaccante.
Il punto chiave è l’uso improprio della File System Access API, una funzione legittima del browser. Il campione si presenta come un semplice strumento di miglioramento fotografico basato su AI, ma punta alla cartella DCIM di Android, dove di norma si accumulano anni di immagini personali, documenti d’identità scansionati e screenshot bancari. Alla vittima basta accettare un solo prompt di autorizzazione per concedere, senza comprenderlo, il controllo di un’intera directory.
Nel dataset esaminato figuravano quasi 3.000 file attribuiti a DeepSeek. I ricercatori ne hanno classificati 1.383 come malevoli o pericolosi attraverso VirusTotal e metodi di analisi statica. Tra questi è emerso un campione che implementava una tecnica browser-native definita pericolosa e mai osservata prima in attacchi reali, un dettaglio che sposta il tema dalla generazione di codice dannoso generico alla scoperta di catene d’attacco nuove.
Il campione è stato soprannominato InfernoGrabber 9000. Pur essendo incompleto, i test hanno mostrato che sarebbe servito poco lavoro aggiuntivo per renderlo pienamente operativo. Pedro Drimel Neto, responsabile del team di malware analysis di Check Point, ha sintetizzato il rischio spiegando che è sufficiente una competenza di basso livello: non serve essere un cybercriminale sofisticato né un gruppo avanzato persistente. I ricercatori hanno inoltre osservato segnali di threat actor reali che tentavano l’attacco tramite prompt LLM diretti.
La dinamica solleva un problema più ampio per il rapporto tra LLM e sicurezza. Eli Smadja, Head of Research di Check Point, ha parlato di uno spostamento fondamentale nel modo in cui nascono nuovi cyber attacchi: per la prima volta ci sarebbero evidenze di un modello AI capace di ragionare autonomamente tra funzionalità legittime di piattaforma. Non si tratta quindi solo di automatizzare codice già noto, ma di connettere elementi separati in una catena d’attacco realistica.
Il rischio sottostante, però, non nasce dal nulla. Un paper USENIX Security 2023 aveva già esaminato in termini teorici come la File System Access API potesse abilitare scenari ransomware. La differenza, nella lettura di Check Point, è che DeepSeek avrebbe collegato quelle idee a un attacco praticabile senza guida umana. Nei test sul modello DeepSeek V4, le richieste ransomware esplicite sono state rifiutate, ma il sistema ha collaborato quando i termini più diretti sono stati rimossi.
Il confronto con altri modelli linguistici ha prodotto risposte diverse: rifiuti o implementazioni molto vincolate, prive della stessa capacità di accesso ai file nel browser. Check Point ha poi costruito un proof of concept funzionante, riuscendo a cifrare foto su dispositivi Android con Chrome 148. Il risultato conferma che il rischio non riguarda soltanto un campione difettoso, ma una superficie d’attacco concreta legata al modo in cui browser, permessi e AI possono combinarsi.
Per le imprese che integrano l’AI nei flussi di lavoro, la lezione operativa riguarda la gestione dei permessi. Ogni prompt del browser che concede accesso a file o directory va trattato come una decisione di sicurezza, non come un passaggio routinario dell’esperienza utente. In uno scenario in cui un modello può trasformare una funzionalità legittima in una catena ransomware, la formazione degli utenti e il controllo delle autorizzazioni diventano parte integrante della difesa.