Cegah Penipuan Digital, Komdigi Kaji Aturan Wajib Label untuk Konten AI
Komdigi menyiapkan regulasi wajib label pada konten AI demi mencegah penipuan siber yang kian canggih mengelabui perusahaan.
Gambar buatan AI, bukan foto asli (Lucid Origin (Leonardo) via Cloudflare Workers AI)
Poin penting
- Komdigi mengkaji aturan kewajiban label untuk konten video, gambar, dan suara berbasis AI.
- Langkah ini bertujuan menekan risiko manipulasi digital yang pernah merugikan bisnis jutaan dolar.
- Pemerintah juga menyusun Peta Jalan Nasional AI 2026-2029 dengan melibatkan lebih dari 400 pihak.
Komdigi mengkaji aturan wajib label konten buatan kecerdasan artifisial atau AI. Aturan ini disiapkan untuk menekan risiko penipuan digital yang makin marak.
Rencana regulasi tersebut dilaporkan oleh CNN Indonesia. Langkah ini diambil karena rekayasa video, suara, dan gambar kini kian mirip aslinya.
Pelaku usaha perlu waspada terhadap celah kejahatan digital baru. Modus penipuan berbasis manipulasi media kini mengincar operasional bisnis dan keuangan kantor.
Ancaman Penipuan Manipulasi Digital
Wakil Menteri Komunikasi dan Digital Nezar Patria memaparkan rencana kebijakan itu di Surakarta. Pemaparan tersebut ia sampaikan dalam Konvensi Humas Indonesia 2026 pada Sabtu lalu.
Menurut Nezar, teknologi AI membuat batas antara kenyataan dan konten tiruan semakin tipis. Situasi ini memicu lonjakan risiko penipuan informasi di ruang publik.
Nezar mencontohkan kasus kejahatan siber di Hong Kong sekitar dua tahun lalu. Insiden itu membuat satu perusahaan rugi hingga 25 juta dolar AS.
Saat itu, seorang staf bagian keuangan menghadiri panggilan video kerja. Rapat daring tersebut ternyata menampilkan jajaran direksi tiruan hasil rekayasa teknologi AI.
Staf tersebut mengira rapat itu nyata dan resmi. Ia lalu mengirimkan 15 kali transfer uang perusahaan sesuai perintah pimpinan palsu.
"Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu," kata Nezar Patria, Wakil Menteri Komunikasi dan Digital.
Kewajiban Label dan Peta Jalan Nasional
Untuk mencegah kejadian serupa, Komdigi mengkaji aturan tingkat peraturan menteri. Beleid ini akan mewajibkan pengembang teknologi menyematkan label pada konten buatan AI.
Label penanda ini memanfaatkan metadata, yaitu data teknis yang mencatat riwayat berkas. Teknologi ini membantu masyarakat menelusuri asal-usul konten video atau suara digital.
Nezar menjelaskan sejumlah perusahaan teknologi dunia sudah mulai menerapkan sistem verifikasi serupa. Pemerintah ingin memastikan pengembang di Indonesia juga menerapkan standar keamanan yang sama.
Selain peraturan menteri, pemerintah juga menyiapkan agenda jangka panjang. Pemerintah sedang menyusun Peta Jalan Nasional Kecerdasan Artifisial untuk periode 2026-2029.
Penyusunan peta jalan tersebut melibatkan lebih dari 400 pihak. Para peserta mencakup kementerian, perwakilan industri teknologi, komunitas, dan lembaga riset.
"AI harus didudukkan sebagai alat, sebagai mitra kerja, bukan pengganti nalar dan tanggung jawab manusia," kata Nezar Patria, Wakil Menteri Komunikasi dan Digital.
Nezar menegaskan perlunya peningkatan keahlian bagi masyarakat dan organisasi kerja. Setiap organisasi harus mampu menilai kebenaran dari setiap data digital yang diterima.
Apa Artinya bagi Pelaku Usaha
Rencana aturan pelabelan ini memberi sinyal penting bagi para pimpinan perusahaan. Risiko rekayasa suara atau wajah kini bisa menembus prosedur otorisasi keuangan harian.
Perusahaan tidak boleh hanya mengandalkan instruksi lewat panggilan video. Para manajer perlu memperketat verifikasi ganda sebelum mencairkan dana kantor berjumlah besar.
Pelaku usaha yang memakai alat bantu AI juga harus bersiap. Perusahaan kemungkinan perlu mencantumkan identitas asli pada setiap materi publikasi dan komunikasi bisnis.
Kebijakan ini dapat menambah beban kepatuhan operasional kantor. Namun, kepatuhan verifikasi digital sangat penting guna menjaga aset dan reputasi bisnis dari manipulasi.
- CNN Indonesia: Cegah Penipuan, Komdigi Kaji Aturan Wajib Beri Label Konten AI
Lihat hasil pemeriksaan
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Komdigi mengkaji aturan kewajiban label untuk konten buatan kecerdasan artifisial guna mencegah penipuan digital. | Didukung | “Kementerian Komunikasi dan Digital ( Komdigi ) mengkaji peraturan menteri mengenai pelabelan konten yang dihasilkan AI” CNN Indonesia melaporkan Komdigi mengkaji aturan pelabelan konten AI untuk hadapi penipuan. |
| Aturan ini kemungkinan besar akan mewajibkan pemberian label atau tanda pada konten AI seperti video, gambar, dan suara. | Didukung | “Peraturan ini kemungkinan besar akan mewajibkan pemberian label atau tanda pada konten-konten hasil AI” CNN Indonesia mencatat isi peraturan menteri yang sedang dikaji Komdigi. |
| Teknologi AI membuat rekayasa video, gambar, dan suara kian sulit dibedakan dari konten asli. | Didukung | “video, gambar, dan suara buatan kecerdasan artifisial yang semakin sulit dibedakan dari konten asli.” CNN Indonesia mencatat alasan di balik penyusunan aturan label konten AI. |
| Wamen Komdigi Nezar Patria memaparkan rencana kebijakan tersebut dalam Konvensi Humas Indonesia 2026 di Surakarta. | Didukung | “Wakil Menteri Komunikasi dan Digital Nezar Patria, pada Konvensi Humas Indonesia 2026 di Surakarta” CNN Indonesia melaporkan lokasi dan forum pemaparan Nezar Patria. |
| Nezar menyebut perkembangan AI membuat garis pemisah antara fakta dan konten sintetik kian tipis. | Didukung | “garis pemisah antara fakta, antara realita dengan sesuatu yang sintetik makin lama makin tipis” CNN Indonesia mengutip pernyataan Nezar Patria. |
| Kasus penipuan rapat daring di Hong Kong sekitar dua tahun lalu merugikan sebuah perusahaan hingga 25 juta dolar AS. | Didukung | “kasus penipuan melalui pertemuan virtual di Hong Kong sekitar dua tahun lalu yang menyebabkan sebuah perusahaan mengalami kerugian sebesar US$25 juta.” CNN Indonesia mengutip contoh kasus kejahatan siber yang disampaikan Nezar Patria. |
| Staf keuangan dalam kasus Hong Kong melakukan 15 kali transfer setelah menerima instruksi dalam rapat daring dengan jajaran pimpinan hasil rekayasa AI. | Didukung | “seorang staf keuangan melakukan 15 kali transfer setelah menerima instruksi melalui pertemuan daring” CNN Indonesia memuat kronologi kasus penipuan pimpinan palsu berbasis AI. |
| Nezar Patria menyatakan bahwa dalam pertemuan online tersebut semuanya palsu kecuali staf keuangan itu sendiri. | Didukung | “"Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu,"” CNN Indonesia mencatat kutipan langsung pernyataan Nezar Patria. |
| Mekanisme autentikasi dan penelusuran asal-usul konten digital dikembangkan melalui metadata. | Didukung | “mengembangkan mekanisme autentikasi dan penelusuran asal-usul konten digital melalui metadata.” CNN Indonesia menyebutkan basis teknologi metadata untuk pelabelan dan penelusuran. |
| Pemerintah sedang menyusun Peta Jalan Nasional Kecerdasan Artifisial 2026-2029 yang melibatkan lebih dari 400 pihak. | Didukung | “penyusunan Peta Jalan Nasional Kecerdasan Artifisial periode 2026-2029 yang melibatkan lebih dari 400 lembaga, komunitas, kementerian, dan unsur industri.” CNN Indonesia memuat rincian penyusunan Peta Jalan AI 2026-2029. |
| Nezar menegaskan AI harus didudukkan sebagai alat dan mitra kerja, bukan pengganti nalar dan tanggung jawab manusia. | Didukung | “"AI harus didudukkan sebagai alat, sebagai mitra kerja, bukan pengganti nalar dan tanggung jawab manusia,"” CNN Indonesia mengutip langsung penegasan Nezar Patria. |
| Nezar menilai perlunya peningkatan kemampuan dan peran masyarakat serta organisasi dalam menggunakan AI secara bertanggung jawab. | Didukung | “peningkatan kemampuan dan peran masyarakat dan organisasi dalam menggunakan teknologi secara bertanggung jawab” CNN Indonesia memaparkan penilaian Nezar terkait tata kelola AI. |
Video AI terbaru
Local AI 202: Get Massive Speed-ups with Speculative Decoding
