OpenAI Pasang Tanda Air Tak Terlihat pada Teks ChatGPT dan Codex
OpenAI mulai menandai teks buatan ChatGPT demi regulasi Eropa, meski akurasi deteksi turun jika tulisan disunting.
Gambar buatan AI, bukan foto asli (FLUX.1 schnell via Cloudflare Workers AI)
Poin penting
- OpenAI merilis textGrain untuk menyematkan tanda air tak terlihat pada teks buatan AI.
- Fitur ini dirancang untuk mematuhi transparansi Undang-Undang AI Uni Eropa.
- Akurasi deteksi tanda air turun menjadi 66 persen jika sepuluh persen kata diedit.
Teks buatan ChatGPT kini tidak lagi sepenuhnya tanpa jejak. OpenAI mulai menyematkan tanda khusus tak terlihat pada setiap tulisan yang dihasilkan.
Kebijakan ini diterapkan untuk mematuhi regulasi Undang-Undang AI Uni Eropa (EU AI Act). Aturan tersebut mewajibkan perusahaan menandai konten buatan mesin agar mudah diidentifikasi.
Cara Kerja Tanda Air textGrain
Seperti dilaporkan CNN Indonesia, teknologi penanda ini diberi nama textGrain. Tanda air ini tidak tampak secara kasat mata pada teks biasa.
Sistem ini bekerja dengan menambahkan sinyal statistik pada pilihan kata model. Alat pendeteksi khusus akan mencari pola susunan kata tersebut untuk memastikan asalnya.
"Teknologi penanda air teks kami, textGrain, menambahkan sinyal statistik tak terlihat pada pilihan kata model. Detektor kami mencari sinyal tersebut untuk menilai apakah suatu bagian teks berisi tanda air OpenAI," tulis OpenAI di laman resminya.
OpenAI mengklaim kemampuan textGrain menyamai atau melampaui alat deteksi lain, termasuk SynthID buatan Google DeepMind. Penanda ini diterapkan pada ChatGPT dan Codex, yaitu alat bantu pembuat kode pemrograman.
Tantangan Deteksi dan Akurasi
OpenAI mengakui teknologi ini masih memiliki keterbatasan. Deteksi tanda air lebih sulit dilakukan pada teks pendek atau materi dengan kata terbatas seperti matematika.
Hasil pengujian menunjukkan sedikit suntingan dapat mengaburkan tanda air. Mengganti sepuluh persen kata menurunkan akurasi deteksi dari 92 persen menjadi 66 persen.
Jika seperempat kata diubah, akurasi deteksi anjlok hingga sisa 17 persen. Sistem pendeteksi juga masih bisa salah membaca tanda air yang sebenarnya ada atau tidak.
"Keterbatasan ini berkontribusi pada keputusan kami untuk hanya memberikan akses awal ke detektor kepada peneliti dan organisasi ahli yang disetujui, yang dapat membantu kami mengevaluasi keandalan dan penggunaan yang bertanggung jawab," kata perusahaan.
Dampak bagi Pelaku Usaha
Tanda air ini akan berlaku untuk pengguna umum di Uni Eropa dalam beberapa minggu ke depan. Bagi pelanggan Application Programming Interface (API) atau jalur integrasi aplikasi, fiturnya sudah tersedia secara global.
OpenAI menegaskan penandaan ini tidak mengubah kualitas atau akurasi jawaban teks. Fitur ini dirancang membantu kalangan ahli dan penegak hukum membuktikan keaslian dokumen.
Bagi para pemimpin bisnis, sistem tanda air ini menjadi langkah awal penyaringan dokumen kerja buatan AI. Namun, verifikasi manual tetap diperlukan karena pengeditan sederhana masih bisa mengelabui detektor.
- CNN Indonesia: Hasil Kerja ChatGPT Bakal Punya Watermark, Ini Fungsinya
Lihat hasil pemeriksaan
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| OpenAI menyematkan tanda air tak terlihat (textGrain) pada teks buatan ChatGPT dan Codex. | Didukung | “OpenAI mengumumkan akan memberikan tanda atau watermark tak terlihat pada teks yang dihasilkan chatbot ChatGPT dan Codex.” CNN Indonesia |
| Penyematan tanda air bertujuan mematuhi regulasi Undang-Undang AI Uni Eropa (EU AI Act). | Didukung | “Kebijakan tersebut diberlakukan untuk mematuhi regulasi Undang-undang AI Uni Eropa (EU AI Act) yang mengharuskan perusahaan AI menandai konten agar bisa diidentifikasi oleh sistem lain” CNN Indonesia |
| textGrain bekerja dengan menambahkan sinyal statistik tak terlihat pada pilihan kata model. | Didukung | “Teknologi penanda air teks kami, textGrain, menambahkan sinyal statistik tak terlihat pada pilihan kata model.” CNN Indonesia |
| OpenAI mengklaim kemampuan textGrain menyamai atau melampaui detektor lain seperti SynthID Google DeepMind. | Didukung | “Perusahaan mengklaim bahwa kemampuan textGrain untuk mendeteksi hasil tulisan AI telah menyamai atau bahkan melampaui kinerja detektor lain, termasuk SynthID yang dikembangkan Google DeepMind.” CNN Indonesia |
| Penggantian sekitar 10 persen kata menurunkan akurasi deteksi dari sekitar 92 persen menjadi 66 persen, dan 25 persen kata menurunkannya menjadi 17 persen. | Didukung | “penggantian pemilihan kata sekitar 10 persen mampu mengurangi akurasi deteksi dari sekitar 92 persen menjadi 66 persen, dan penggantian sekitar 25 persen kata dapat menurunkannya menjadi 17 persen.” CNN Indonesia |
| Fitur watermark akan diterapkan di Uni Eropa dalam beberapa minggu mendatang, sementara pelanggan API sudah mendapat akses secara global. | Didukung | “Dalam beberapa minggu mendatang, watermark akan diterapkan untuk pengguna ChatGPT dan Codex secara lokal di Uni Eropa. Sementara itu, bagi pelanggan Application Programming Interface (API), opsi penambahan” CNN Indonesia |
| Pemberian tanda air tidak memengaruhi akurasi dan kinerja jawaban AI. | Didukung | “Namun, perusahaan menegaskan pemberian watermark tidak akan memengaruhi akurasi dan kinerja jawaban yang dihasilkan.” CNN Indonesia |
| Akses awal detektor hanya diberikan kepada peneliti dan organisasi ahli yang disetujui. | Didukung | “Keterbatasan ini berkontribusi pada keputusan kami untuk hanya memberikan akses awal ke detektor kepada peneliti dan organisasi ahli yang disetujui” CNN Indonesia |
Video AI terbaru
Introducing the Decisions API
