NUSA TENGGARA BARAT — San Francisco, AS — Langkah hukum baru di Amerika Serikat menyoroti celah keamanan di toko aplikasi utama dunia. Jaksa Kota San Francisco secara resmi meminta Apple dan Google untuk segera mencabut 13 aplikasi AI yang memanfaatkan teknologi face-swap untuk menghasilkan gambar pornografi tanpa izin korban.
Berdasarkan laporan WIRED, surat penghentian (cease-and-desist) dikirimkan pada Kamis pekan lalu. Aplikasi-aplikasi yang disasar dipasarkan sebagai alat penukar wajah biasa, namun dalam praktiknya digunakan untuk “menelanjangi” foto individu nyata tanpa persetujuan mereka.
Kantor jaksa menuntut kedua perusahaan tidak hanya menghapus aplikasi tersebut, tetapi juga memutus hubungan dengan pengembang dan berhenti mengambil potongan dari pembayaran dalam aplikasi. Mereka berargumen bahwa Apple dan Google secara efektif “membantu dan bersekongkol” dalam penjualan gambar deepfake eksplisit.
Dalam pernyataannya, Jaksa Kota San Francisco menyebut praktik ini “ilegal, berbahaya, dan sama sekali tidak dapat diterima.” Pihaknya meyakini bahwa Apple dan Google telah mengumpulkan pendapatan jutaan dolar dari biaya yang dikenakan pada aplikasi-aplikasi tersebut.
Baik Apple maupun Google sebenarnya sudah memiliki aturan ketat bagi pengembang yang melarang konten pornografi. Sebelumnya, kedua perusahaan juga telah menghapus sejumlah aplikasi serupa setelah mendapat laporan dari peneliti keamanan.
Juru bicara Google mengonfirmasi kepada WIRED bahwa perusahaannya telah menghapus “ratusan” aplikasi dengan fitur nudifying karena melanggar kebijakan, termasuk lima aplikasi yang disebutkan dalam surat tersebut. Sementara itu, Apple pada Juni lalu telah memperketat bahasa pedoman App Store terkait tanggung jawab pengembang atas konten pornografi.
Apple memberikan tanggapan resmi kepada MacRumors. Perusahaan menegaskan bahwa mereka menangani laporan aplikasi yang melanggar pedoman dengan serius.
“App Store dirancang sebagai tempat yang aman dan tepercaya bagi pengguna. Kami selalu melarang keras aplikasi yang dirancang untuk menghasilkan, mendistribusikan, atau mengonsumsi pornografi,” demikian pernyataan Apple.
Perusahaan mengonfirmasi bahwa “aplikasi nudifikasi” melanggar Pedoman Review App mereka. Apple telah secara proaktif menolak dan menghapus banyak aplikasi semacam itu, termasuk saat dilaporkan oleh pengguna. Tiga dari aplikasi yang disebutkan dalam surat telah dihapus, dan proses penghentian akun pengembang dari program mereka sedang berjalan. Empat aplikasi lainnya diberi peringatan untuk segera mengatasi pelanggaran kebijakan atau berisiko dihapus.
Apple juga mengingatkan pengguna untuk melaporkan konten ilegal, ofensif, atau penipuan melalui situs reporta