NUSA TENGGARA BARAT — Surat tersebut menuntut TikTok memberikan penjelasan rinci soal eksperimen pada fitur keamanan algoritmik di feed "For You". Fitur ini dirancang untuk membantu pengguna menghindari "filter bubble", yaitu kondisi ketika pengguna terus-menerus disuguhi konten serupa yang berisiko jika ditonton dalam jumlah banyak.
Alih-alih meluncurkan fitur tersebut, TikTok justru menahannya untuk sebagian pengguna demi mengukur dampaknya terhadap engagement. Bloomberg melaporkan, Chase Nasca masuk dalam grup kontrol dan meninggal dunia tak lama setelah akunnya direkomendasikan konten bertema bunuh diri dan depresi secara berulang.
Eksperimen ini berlangsung pada 2021, berdekatan dengan momen ketika pejabat kebijakan TikTok hadir dalam sidang Kongres. Dalam sidang tersebut, Blumenthal dan Blackburn mendesak perusahaan agar lebih serius melindungi anak-anak di platformnya.
Menurut dokumen internal TikTok yang dilaporkan Bloomberg, akun Chase Nasca "jatuh ke dalam filter bubble" yang merekomendasikan konten tentang bunuh diri dan menyakiti diri sendiri secara repetitif, terutama menjelang tanggal kematiannya. Temuan ini menjadi sorotan karena menunjukkan perusahaan mengetahui risiko sistem rekomendasinya, tetapi tetap menahan intervensi keamanan demi kepentingan riset.
Dalam suratnya, kedua senator meminta TikTok mengungkap detail eksperimen ini serta eksperimen serupa lainnya. Mereka juga menekan perusahaan untuk menjawab apakah pernah menunda peluncuran fitur keamanan karena potensi dampaknya terhadap pendapatan iklan. TikTok diberi tenggat waktu hingga 1 September untuk memberikan respons.
"Pengungkapan terbaru ini menunjukkan bahwa TikTok tidak hanya memiliki informasi tentang bahaya yang diciptakan oleh sistem rekomendasinya, tetapi secara sengaja menolak akses jutaan pengguna ke intervensi keamanan agar perusahaan bisa mempelajari dampaknya terhadap engagement," demikian bunyi surat tersebut.
Para senator menilai tindakan ini "sinister" karena TikTok sebenarnya sudah mendapat peringatan sebelumnya. "Pengungkapan ini mengerikan, tetapi menjadi lebih jahat karena TikTok sudah tahu efek algoritma rekomendasinya terhadap anak-anak," tulis mereka.
Blumenthal dan Blackburn merupakan dua tokoh kunci di balik dorongan pengesahan Kids Online Safety Act (KOSA), regulasi yang mewajibkan platform media sosial menyediakan perlindungan lebih ketat bagi pengguna di bawah umur. Kasus Chase Nasca menjadi amunisi baru bagi para pendukung regulasi ini untuk menekan platform agar lebih transparan soal cara kerja algoritma mereka.
Hingga berita ini ditulis, TikTok belum memberikan tanggapan resmi atas permintaan komentar dari media. Kasus ini kembali membuka pertanyaan besar: sejauh mana platform media sosial bersedia mengorbankan keselamatan pengguna demi menjaga metrik engagement yang menjadi tulang punggung bisnis iklan mereka?