In Breve
- Cosa ha richiesto il procuratore di San Francisco?
- Ha richiesto la rimozione di tredici app che generano nudi falsi tramite intelligenza artificiale.
- Quali aziende sono coinvolte nella richiesta?
- Apple e Google sono le aziende coinvolte nella richiesta di rimozione.
- Quali sono le conseguenze legali per le app?
- Le app violano la legge della California che proibisce il supporto a servizi di pornografia deepfake.
Il procuratore della città di San Francisco, David Chiu, ha intrapreso un’azione decisiva contro tredici applicazioni di face-swapping che utilizzano l’intelligenza artificiale per generare immagini intime non consensuali. In una lettera inviata ad Apple e Google, Chiu ha richiesto la rimozione immediata di otto app presenti sull’App Store e cinque sul Play Store.
Chiu ha sottolineato che queste aziende non solo devono rimuovere le app, ma anche cessare qualsiasi collaborazione commerciale con gli sviluppatori e smettere di trarre profitto dagli acquisti in-app. Secondo il procuratore, Apple e Google avrebbero incassato milioni di dollari nonostante le loro policy vietino contenuti pornografici, abusivi o molesti.
La legge della California proibisce il supporto a servizi che producono materiale pornografico deepfake. In passato, l’ufficio del procuratore aveva già avviato azioni legali contro sedici siti web dedicati a pratiche simili. Dan Jackson, portavoce di Google, ha dichiarato che l’azienda ha rimosso centinaia di app con funzioni di “nudificazione”, comprese quelle segnalate, e ha limitato la ricerca di termini come “nudify” sul Play Store. Apple, al momento, non ha rilasciato commenti.
Chiu ha descritto la situazione come “assolutamente scioccante” per l’ampiezza del fenomeno e le sue conseguenze sulle vittime, che spaziano dalla reputazione danneggiata a ripercussioni sulla salute mentale. Il procuratore si è detto fiducioso che le aziende agiranno per rimuovere le app e rafforzare i controlli, non escludendo ulteriori azioni legali in futuro.
