NUSA TENGGARA BARAT — Anthropic, perusahaan di balik model AI canggih seperti Claude, memicu perdebatan baru di industri teknologi. Melalui sebuah unggahan blog resmi, perusahaan yang dikabarkan akan segera melantai di bursa saham AS tahun ini itu menyampaikan kekhawatiran serius: tren pengembangan AI saat ini mengarah pada lahirnya sistem yang mampu mendesain dan membangun generasi penerusnya secara mandiri.
Menurut Anthropic, kemampuan tersebut, meski belum terwujud sepenuhnya, diperkirakan akan tiba "lebih cepat dari kesiapan sebagian besar institusi." Pihaknya menekankan bahwa teknologi semacam ini bisa membawa manfaat besar di bidang sains dan kesehatan, namun di sisi lain juga meningkatkan risiko hilangnya kendali manusia atas sistem AI.
Usulan Slowdown Global dan Mekanisme Verifikasi
Sebagai solusi, Anthropic mengusulkan perlambatan atau penghentian sementara (pause) pengembangan AI. Tujuannya adalah memberi waktu bagi struktur sosial dan riset penyelarasan (alignment research) untuk mengejar ketertinggalan dari laju teknologi.
Perusahaan tersebut menekankan bahwa inisiatif ini hanya akan berhasil jika melibatkan banyak laboratorium riset ternama di berbagai negara. "Perlambatan atau jeda yang berarti membutuhkan banyak laboratorium yang berada di garis depan teknologi, di berbagai negara, untuk setuju berhenti dalam kondisi yang sama," tulis Anthropic. "Ini juga membutuhkan kemampuan masing-masing pihak untuk memverifikasi bahwa pihak lain benar-benar telah berhenti."
Mekanisme verifikasi menjadi krusial untuk mencegah kecurangan. Tanpa sistem pengawasan yang ketat, ada risiko beberapa perusahaan justru mengembangkan teknologi mereka secara diam-diam untuk melompat lebih maju dari kompetitor.
Kritik: Strategi Marketing atau Kekhawatiran Nyata?
Usulan Anthropic langsung mendapat sorotan tajam. Seperti dikutip dari The Wall Street Journal, para kritikus menilai peringatan perusahaan tentang teknologinya sendiri hanyalah taktik pemasaran. Tujuannya diduga untuk mencitrakan Anthropic sebagai perusahaan AI yang paling etis di antara para pesaingnya, atau untuk membuat produk mereka tampak paling unggul.
Salah satu contoh yang sering disorot adalah perilisan terbatas model AI keamanan siber mereka, Mythos. Anthropic mengklaim hanya merilis Mythos ke mitra terpilih karena potensi kerusakan yang bisa ditimbulkan jika kemampuannya menemukan celah keamanan (vulnerabilities) jatuh ke tangan yang salah. Namun, para pengamat menilai langkah ini hanya untuk membangun sensasi atau menutupi fakta bahwa Anthropic hanya ingin menjual produk tersebut ke perusahaan-perusahaan besar.
Fakta Singkat Usulan Anthropic
- Pemicu: Temuan Anthropic Institute (divisi riset yang dibentuk Maret lalu) bahwa AI bisa membangun penerusnya sendiri.
- Tujuan: Memberi waktu bagi riset alignment dan regulasi masyarakat untuk mengejar ketertinggalan.
- Syarat Utama: Komitmen multi-pihak dan sistem verifikasi global untuk mencegah kecurangan.
- Perbandingan: Anthropic menyamakan usulannya dengan perjanjian senjata nuklir, meski mengakui hal itu butuh waktu puluhan tahun.
- Langkah Selanjutnya: Rencana menggelar diskusi dengan pembuat kebijakan, peneliti, dan perusahaan AI lain dalam beberapa bulan ke depan.
Anthropic Institute: Penelitian di Balik Usulan
Usulan ini bukan sekadar opini manajemen. Anthropic mendirikan Anthropic Institute pada Maret lalu sebagai divisi riset yang bertugas "memberi tahu dunia" tentang tantangan yang muncul seiring pengembangan AI yang lebih maju. Lembaga ini, bersama para kolaborator, akan meneliti apa yang diperlukan untuk "membangun sistem yang dibutuhkan untuk perlambatan atau jeda yang kredibel."
Menariknya, usulan ini datang saat posisi bisnis Anthropic sedang menanjak. Perusahaan dilaporkan berada di jalur menuju kuartal pertama yang menguntungkan, sebuah pencapaian yang belum diraih oleh banyak kompetitor AI lainnya. Mereka juga baru saja mengajukan dokumen ke SEC untuk menjadi perusahaan publik, kemungkinan besar sebelum akhir tahun.
Anthropic berencana mengadakan pembicaraan dengan para pembuat kebijakan, peneliti, dan perusahaan AI lain dalam beberapa bulan ke depan untuk membahas usulan ini. Hasil dari diskusi tersebut rencananya akan dipublikasikan. Namun, tanpa kesepakatan global yang mengikat dan sistem verifikasi yang kuat, usulan perlambatan ini masih diragukan efektivitasnya di tengah perlombaan AI yang semakin panas.
