In Breve
- Qual è la richiesta del procuratore di San Francisco?
- Il procuratore chiede la rimozione di app che generano nudi falsi tramite IA.
- Quante app sono coinvolte?
- Tredici app: otto sull'App Store e cinque sul Play Store.
- Qual è la posizione di Google?
- Google ha già eliminato le app segnalate e limitato la ricerca di termini correlati.
Il procuratore della città di San Francisco, David Chiu, ha recentemente intensificato la sua lotta contro le applicazioni di face-swapping che generano immagini intime non consensuali tramite intelligenza artificiale. In una mossa decisiva, Chiu ha inviato diffide ufficiali ad Apple e Google, esortando i giganti tecnologici a rimuovere immediatamente tredici di queste applicazioni dai loro store digitali: otto dall’App Store e cinque dal Play Store.
Chiu ha sottolineato che queste applicazioni violano le policy per sviluppatori di entrambe le piattaforme, che vietano esplicitamente contenuti pornografici, abusivi o molesti. Nonostante ciò, le due aziende avrebbero incassato milioni di dollari dagli acquisti in-app, un guadagno che il procuratore considera inaccettabile. La legge della California, infatti, proibisce di fornire supporto a servizi che producono materiale pornografico deepfake, e l’ufficio del procuratore aveva già avviato in passato azioni legali contro sedici siti web dedicati a pratiche simili.
Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già eliminato centinaia di app con funzioni di “nudificazione”, comprese le cinque segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Tuttavia, Apple non ha ancora fornito commenti ufficiali sulla questione.
Chiu ha descritto la situazione come “assolutamente scioccante” per l’ampiezza del fenomeno e le sue gravi conseguenze sulle vittime, che spaziano dalla reputazione danneggiata a ripercussioni sulla salute mentale. Ha espresso fiducia nel fatto che le aziende rimuoveranno spontaneamente le app e rafforzeranno i controlli, senza escludere la possibilità di ulteriori azioni legali se necessario.
Questa iniziativa si inserisce in un contesto più ampio di crescente attenzione verso la protezione della privacy e dei diritti individuali nell’era digitale, sollevando questioni etiche e legali di grande rilevanza per il futuro della tecnologia e della società.