NUSA TENGGARA BARAT — OpenAI resmi menyematkan watermark tak terlihat bernama textGrain pada teks yang dihasilkan ChatGPT dan Codex, sebagai bentuk kepatuhan terhadap Undang-undang AI Uni Eropa. Teknologi ini menambahkan sinyal statistik tersembunyi pada pola pemilihan kata model, sehingga detektor internal dapat menilai apakah suatu teks berasal dari AI. Fitur ini mulai diterapkan untuk pengguna di Uni Eropa dalam beberapa minggu ke depan, sementara pelanggan API sudah bisa mengaksesnya secara global.
OpenAI menegaskan bahwa pemberian watermark tidak akan mengubah akurasi maupun kinerja jawaban yang dihasilkan model. Teknologi ini bekerja dengan menanamkan pola pemilihan kata yang khas, bukan menyisipkan kode atau karakter tambahan ke dalam teks.
Langkah ini diambil untuk memenuhi kewajiban EU AI Act yang mengharuskan penyedia layanan AI menandai konten buatan mesin agar dapat diidentifikasi sistem lain. Regulasi tersebut menempatkan transparansi sebagai prinsip utama dalam pengawasan konten generatif di pasar Eropa.
OpenAI menjelaskan mekanisme kerjanya secara terbuka. "Teknologi penanda air teks kami, textGrain, menambahkan sinyal statistik tak terlihat pada pilihan kata model. Detektor kami mencari sinyal tersebut untuk menilai apakah suatu bagian teks berisi tanda air OpenAI," tulis perusahaan di laman resminya pada Senin (5/10).
Perusahaan mengklaim kemampuan deteksi textGrain telah menyamai atau bahkan melampaui kinerja detektor lain, termasuk SynthID yang dikembangkan Google DeepMind. Namun, keandalan dalam evaluasi internal tidak serta-merta menjamin performa yang sama di penggunaan sehari-hari.
OpenAI mengakui masih ada sejumlah kelemahan. Teks yang terlalu pendek atau telah mengalami penyuntingan ringan lebih sulit dideteksi. Konten dengan ruang gerak diksi yang sempit, seperti soal matematika, juga menjadi tantangan tersendiri bagi detektor.
Hasil pengujian internal menunjukkan watermark bisa melemah signifikan hanya dengan penggantian kata. Mengganti sekitar 10 persen pilihan kata menurunkan akurasi deteksi dari sekitar 92 persen menjadi 66 persen.
Angka itu merosot lebih tajam jika penggantian mencapai 25 persen kata, di mana akurasi deteksi tinggal 17 persen. Pengujian juga menemukan dua jenis kesalahan umum: pelaporan adanya watermark padahal tidak ada (false positive) dan melewatkan watermark yang sebenarnya ada (false negative).
Keterbatasan tersebut membuat OpenAI membatasi akses awal detektor hanya kepada peneliti dan organisasi ahli yang disetujui. "Keterbatasan ini berkontribusi pada keputusan kami untuk hanya memberikan akses awal ke detektor kepada peneliti dan organisasi ahli yang disetujui, yang dapat membantu kami mengevaluasi keandalan dan penggunaan yang bertanggung jawab," kata perusahaan.
Bagi pelanggan API, opsi penambahan watermark sudah tersedia secara global. Sementara pengguna ChatGPT dan Codex di Uni Eropa akan mendapatkan fitur ini secara lokal dalam beberapa minggu mendatang.
Watermark memberi organisasi ahli dan akademisi cara untuk mengetahui apakah suatu teks dibuat AI atau benar-benar karya orisinal, misalnya dalam pengungkapan penyalahgunaan atau penegakan hukum. Namun, karena akurasi deteksi menurun drastis setelah penyuntingan, efektivitasnya di dunia nyata masih perlu diuji.
OpenAI menyatakan akan terus meningkatkan fungsi watermark dan kemampuan deteksinya sebelum memperluas ketersediaan fitur ini ke pasar global.