Jaksa Kota San Francisco David Chiu mengumumkan bahwa ia bermaksud menutup 16 situs “menelanjangi” AI paling populer pada konferensi pers hari Kamis.
melaporkan bahwa Jaksa Kota menuduh situs-situs ini melanggar hukum federal terkait pornografi balas dendam, pornografi deepfake, dan pornografi anak. Kantor Chiu juga menuduh situs-situs tersebut melanggar hukum persaingan tidak sehat negara bagian California karena “kerugian yang ditimbulkannya bagi konsumen jauh lebih besar daripada manfaat yang terkait dengan praktik-praktik tersebut,” menurut dokumen yang diajukan di pengadilan tinggi California.
Pengaduan tersebut berfokus pada total 50 terdakwa yang ingin dituntut Chiu karena mengoperasikan situs web yang menampilkan adegan telanjang. Beberapa nama terdakwa dan situs web disunting, tetapi juga secara terbuka mengidentifikasi beberapa perusahaan yang mengoperasikan “beberapa situs web terpopuler di dunia yang menawarkan gambar telanjang wanita dan anak perempuan” seperti Sol Ecom yang berlokasi di Florida, Briver di New Mexico, dan Itai Tech Ltd yang berbasis di Inggris. Satu-satunya terdakwa yang diidentifikasi dalam pengaduan tersebut adalah Augustin Gribinets dari Estonia, yang dituduh memiliki situs AI yang menampilkan gambar wanita dan anak-anak tanpa izin.
Situs-situs web ini telah menghasilkan lebih dari 200 juta kunjungan dalam kurun waktu enam bulan. Gambar-gambar wanita dan anak-anak yang tidak disetujui di situs-situs ini “digunakan untuk menindas, mengancam, dan mempermalukan wanita dan anak perempuan” karena situs-situs tersebut semakin banyak dikunjungi “dan tren yang menyedihkan ini tidak menunjukkan tanda-tanda akan mereda,” menurut pengaduan tersebut.
Pengacara kota tersebut mengutip satu kasus dalam pengaduan hukumnya dari bulan Februari di mana sebuah situs AI yang menampilkan gambar 16 siswa kelas delapan di sebuah sekolah menengah pertama di California. Insiden tersebut mungkin merujuk pada insiden yang terjadi di sebuah sekolah menengah atas di Beverly Hills di mana 16 siswa menyebarkan gambar telanjang palsu dari siswa lain. Distrik sekolah mengeluarkan lima siswa karena keterlibatan mereka dalam menyebarkan gambar-gambar terlarang tersebut, menurut .
Teknologi deepfake telah menjadi perhatian hukum utama, khususnya di tingkat federal. Bulan lalu, sebuah laporan tentang replika digital diterbitkan dan menyimpulkan bahwa “diperlukan undang-undang baru.” Hanya beberapa hari kemudian, sekelompok senator bipartisan memperkenalkan undang-undang baru yang melindungi individu dari rekayasa suara, wajah, atau tubuh mereka dengan AI tanpa persetujuan mereka.