Software · 2 novembre 2026 · 4 min di lettura
Ritratti di animali e lezioni di fitness: l'inchiesta sulle centinaia di app che nascondevano generatori di deepfake
In sintesi: Un'indagine internazionale condotta da Wired e dall'organizzazione no profit AI Forensics ha portato alla luce un network industriale di oltre 400 applicazioni e domini apparentemente innocui, distribuiti sui cataloghi ufficiali di Apple e Google. Dietro la facciata di editor fotografici per animali domestici o tutor di fitness, le app sfruttavano tecniche di cloaking per superare i controlli di sicurezza degli store e attivare interfacce segrete dedicate alla generazione di deepfake non consensuali, monetizzati tramite i normali circuiti di pagamento in-app.
di Team Mocchi's
A prima vista sembravano normali utility basate sull'intelligenza artificiale generativa: generatori di ritratti buffi per animali domestici, personal trainer virtuali o corsi interattivi di lingue straniere. In realtà, dietro centinaia di software distribuiti sui cataloghi ufficiali di Apple e Google operava una rete strutturata per la produzione e la vendita di immagini e video deepfake espliciti e non consensuali.
Come rivela un'approfondita inchiesta pubblicata da WIRED, l'operazione ha coinvolto oltre 400 domini web e applicazioni mobili collegate a sviluppatori di lingua cinese e a una società registrata a Hong Kong, la KeLing Technology Limited. L'infrastruttura ha operato per circa dodici mesi, pubblicando a ritmo continuo decine di nuove applicazioni a settimana per aggirare le difese degli ecosistemi digitali.
La tecnica del cloaking per superare la revisione
Il meccanismo alla base dell'operazione si fonda sul cloaking, una tecnica di occultamento dinamico del codice ben nota nel settore della sicurezza informatica. Quando l'applicazione veniva esaminata dai team di revisione di App Store o Google Play Store, il server remoto rispondeva mostrando esclusivamente le funzionalità dichiarate nella scheda descrittiva, come l'elaborazione di simpatiche immagini di cani e gatti in abiti tropicali.
Una volta superata la fase di approvazione e scaricato il software sui telefoni degli utenti finali, l'applicazione modificava il proprio comportamento in presenza di parametri specifici o richieste provenienti da canali dedicati. A quel punto veniva caricata furtivamente una webview interna che dava accesso a un pannello per caricare fotografie di persone reali e generare contenuti sessualmente espliciti o violenti, eludendo i filtri di moderazione statica implementati dai colossi tecnologici.
Pagamenti ufficiali e inserzioni sui social network
Uno degli aspetti più allarmanti emersi dall'inchiesta riguarda il circuito di monetizzazione e acquisizione degli utenti. I generatori abusivi non richiedevano canali di pagamento opachi o criptovalute: l'acquisto dei pacchetti di crediti necessari per elaborare le immagini veniva gestito direttamente tramite i sistemi di fatturazione in-app di Apple Pay e Google Pay, conferendo un'apparenza di totale legittimità al servizio.
L'afflusso di nuovi utilizzatori veniva alimentato attraverso decine di migliaia di inserzioni video pubblicate su Instagram e Facebook. I video promozionali mostravano esplicitamente le capacità di denudamento sintetico e collegavano direttamente gli utenti alle schede delle applicazioni sui due principali store mobili. Come ricostruito dai ricercatori indipendenti di AI Forensics, le campagne pubblicitarie venivano registrate sotto identità fittizie, consentendo ai promotori di rimpiazzare all'istante le inserzioni rimosse.
L'architettura usa-e-getta contro la moderazione
La longevità dell'operazione è stata garantita da un modello operativo a sciame: software usa-e-getta distribuiti su centinaia di account sviluppatore differenti. Quando una singola app o un account pubblicitario venivano segnalati o sospesi, il network aveva già pronte decine di repliche identiche con nomi e icone leggermente differenti.
Nonostante sia Apple sia Google abbiano rimosso le applicazioni identificate a seguito delle segnalazioni giornalistiche e Meta abbia disattivato gli account pubblicitari coinvolti, la vicenda dimostra come i tradizionali processi di certificazione pre-pubblicazione fatichino a intercettare software che modifica il proprio carico applicativo lato server dopo aver ottenuto il via libera.
Il punto di Mocchi's
Questa inchiesta mette a nudo una fragilità strutturale nell'attuale modello di distribuzione del software: il controllo statico prima del rilascio non è più sufficiente contro applicazioni che si comportano come gusci vuoti e iniettano logiche arbitrarie dal cloud. Per chi progetta piattaforme digitali e sistemi software sicuri, la lezione è netta: la conformità e la sicurezza non possono essere certificate una volta sola al deployment, ma richiedono un monitoraggio continuo del traffico di rete e delle webview in runtime. Di fronte alla proliferazione di modelli generativi a basso costo, la responsabilità della filiera tecnologica si gioca sulla capacità di vigilare sull'intero ciclo di vita dell'applicazione, chiudendo le falle tra circuiti di pagamento ufficiali, canali pubblicitari e infrastrutture backend.