NUSA TENGGARA BARAT — San Francisco, AS — Langkah hukum baru di Amerika Serikat menyoroti celah keamanan di toko aplikasi utama dunia. Jaksa Kota San Francisco secara resmi meminta Apple dan Google untuk segera mencabut 13 aplikasi AI yang memanfaatkan teknologi face-swap untuk menghasilkan gambar pornografi tanpa izin korban.
Delapan Aplikasi di App Store dan Lima di Play Store Jadi Target
Berdasarkan laporan WIRED, surat penghentian (cease-and-desist) dikirimkan pada Kamis pekan lalu. Aplikasi-aplikasi yang disasar dipasarkan sebagai alat penukar wajah biasa, namun dalam praktiknya digunakan untuk “menelanjangi” foto individu nyata tanpa persetujuan mereka.
Kantor jaksa menuntut kedua perusahaan tidak hanya menghapus aplikasi tersebut, tetapi juga memutus hubungan dengan pengembang dan berhenti mengambil potongan dari pembayaran dalam aplikasi. Mereka berargumen bahwa Apple dan Google secara efektif “membantu dan bersekongkol” dalam penjualan gambar deepfake eksplisit.
Jutaan Dolar Raup Keuntungan dari Aplikasi Berbahaya
Dalam pernyataannya, Jaksa Kota San Francisco menyebut praktik ini “ilegal, berbahaya, dan sama sekali tidak dapat diterima.” Pihaknya meyakini bahwa Apple dan Google telah mengumpulkan pendapatan jutaan dolar dari biaya yang dikenakan pada aplikasi-aplikasi tersebut.
Baik Apple maupun Google sebenarnya sudah memiliki aturan ketat bagi pengembang yang melarang konten pornografi. Sebelumnya, kedua perusahaan juga telah menghapus sejumlah aplikasi serupa setelah mendapat laporan dari peneliti keamanan.
Google: Sudah Hapus Ratusan Aplikasi Nudify
Juru bicara Google mengonfirmasi kepada WIRED bahwa perusahaannya telah menghapus “ratusan” aplikasi dengan fitur nudifying karena melanggar kebijakan, termasuk lima aplikasi yang disebutkan dalam surat tersebut. Sementara itu, Apple pada Juni lalu telah memperketat bahasa pedoman App Store terkait tanggung jawab pengembang atas konten pornografi.
Tanggapan Apple: Tiga Aplikasi Sudah Dihapus, Akun Pengembang Dihentikan
Apple memberikan tanggapan resmi kepada MacRumors. Perusahaan menegaskan bahwa mereka menangani laporan aplikasi yang melanggar pedoman dengan serius.
“App Store dirancang sebagai tempat yang aman dan tepercaya bagi pengguna. Kami selalu melarang keras aplikasi yang dirancang untuk menghasilkan, mendistribusikan, atau mengonsumsi pornografi,” demikian pernyataan Apple.
Perusahaan mengonfirmasi bahwa “aplikasi nudifikasi” melanggar Pedoman Review App mereka. Apple telah secara proaktif menolak dan menghapus banyak aplikasi semacam itu, termasuk saat dilaporkan oleh pengguna. Tiga dari aplikasi yang disebutkan dalam surat telah dihapus, dan proses penghentian akun pengembang dari program mereka sedang berjalan. Empat aplikasi lainnya diberi peringatan untuk segera mengatasi pelanggaran kebijakan atau berisiko dihapus.
Cara Melaporkan Aplikasi Mencurigakan di App Store
Apple juga mengingatkan pengguna untuk melaporkan konten ilegal, ofensif, atau penipuan melalui situs reporta
