Tech · 18 luglio 2026 · 3 min di lettura
La stretta di San Francisco sulle app di "nudificazione" IA: diffida legale per Apple e Google
In sintesi: La città di San Francisco ha intimato a Google e Apple di rimuovere immediatamente dai rispettivi store 13 applicazioni IA capaci di spogliare digitalmente i soggetti ritratti nelle foto. La mossa legale solleva interrogativi cruciali sulla responsabilità e sui profitti derivanti dalle commissioni degli app store. Entrambi i colossi della tecnologia hanno risposto avviando rimozioni, ma l'efficacia dei loro filtri preventivi resta al centro del dibattito.
di Team Mocchi's
La responsabilità dei giganti della tecnologia nella distribuzione di strumenti di intelligenza artificiale generativa è tornata al centro di uno scontro legale. David Chiu, procuratore generale della città di San Francisco, ha inviato una formale diffida ad Apple e Google intimando loro di rimuovere immediatamente dai propri store 13 applicazioni in grado di generare immagini di nudo non consensuali (le cosiddette app di "nudificazione" o nudify).
Come svelato in esclusiva da Wired, la richiesta si basa sulla violazione delle leggi dello Stato della California che proibiscono il favoreggiamento e la distribuzione di pornografia deepfake non consensuale. L'azione della procura di San Francisco mira a colpire non solo gli sviluppatori di questi software, ma anche l'infrastruttura di distribuzione che ne permette la monetizzazione, accusando indirettamente i due colossi di trarre profitto da attività illegali e dannose.
Il camuffamento delle app e il bypass dei controlli
Uno dei nodi più complessi evidenziati dall'indagine riguarda il modo in cui queste applicazioni riescono a superare i filtri di controllo preventivo di Apple e Google. Nonostante le rigide politiche delle piattaforme che vietano contenuti sessualmente espliciti o molesti, molti sviluppatori aggirano la moderazione camuffando l'app sotto categorie generiche, come semplici strumenti di "face-swapping" o filtri fotografici divertenti.
Come analizzato da Ars Technica, i ricercatori di sicurezza hanno documentato come l'effettiva funzionalità di denudamento venga attivata solo lato server o sbloccata tramite acquisti in-app, rendendo i software apparentemente conformi durante la fase di revisione statica del codice. Una volta installate, le app offrono la manipolazione profonda delle immagini, con conseguenze drammatiche per la reputazione e la salute mentale delle vittime, che nella stragrande maggioranza dei casi sono donne e ragazze.
Il nodo economico delle commissioni sugli store
Il fulcro legale della diffida risiede nella monetizzazione di queste applicazioni. Il procuratore Chiu ha evidenziato come Apple e Google abbiano "potenzialmente incassato milioni di dollari in commissioni" derivanti dagli acquisti in-app eseguiti all'interno di questi software dannosi. Sotto il regime di commissioni che varia dal 15% al 30% sulle transazioni digitali, le due multinazionali si trovano nella scomoda posizione di trarre un profitto diretto da strumenti che violano le leggi statali.
In risposta alle accuse, Google ha fatto sapere tramite il proprio portavoce Dan Jackson di aver prontamente rimosso le applicazioni Android segnalate e di aver sospeso centinaia di software simili, limitando anche la ricerca di termini legati al fenomeno sul Play Store. Dal canto suo, Apple ha dichiarato che la responsabilità ultima dei contenuti ricade sugli sviluppatori, pur ribadendo di aver rimosso le app incriminate e di impegnarsi costantemente nel migliorare i sistemi di segnalazione a disposizione degli utenti.
Il punto di Mocchi's
La diffida inviata ad Apple e Google rappresenta un importante precedente sul piano della responsabilità delle piattaforme nell'era dell'IA generativa di massa. Per le aziende italiane che sviluppano o integrano soluzioni basate su intelligenza artificiale, questo scenario evidenzia la necessità assoluta di adottare un approccio "compliance-by-design" ed eticamente rigoroso, poiché i regolatori e i canali di distribuzione stanno spostando l'onere della prova e del controllo direttamente sulle piattaforme e sugli sviluppatori. Crediamo che la moderazione puramente reattiva o basata su segnalazioni non sia più sufficiente per un ecosistema tech maturo. Chi progetta software e gestisce marketplace deve investire in un monitoraggio dinamico delle funzionalità post-rilascio per prevenire abusi e tutelare l'integrità del proprio marchio e degli utenti.