New York Larang Bot AI Menyamar Jadi Manusia di Depan Anak-Anak
New York sahkan aturan ketat bagi bot AI. Pelanggar terancam denda hingga 25.000 dolar AS dan wajib hapus model kecerdasan buatan.
Ilustrasi: liput24
Poin penting
- New York melarang bot AI mengaku sebagai manusia atau teman di depan anak.
- Perusahaan wajib periksa umur pengguna dan menghapus data verifikasi tersebut.
- Denda pelanggaran mencapai 25.000 dolar AS per kasus disertai sanksi data.
Penyedia program kecerdasan buatan kini menghadapi aturan hukum yang jauh lebih tegas. Negara Bagian New York resmi melarang bot percakapan berpura-pura menjadi manusia di depan pengguna anak.
Aturan ini berlaku untuk pengguna berusia di bawah 18 tahun. Kewajiban yang sama juga berlaku bagi akun yang belum diverifikasi usianya.
Gubernur New York Kathy Hochul telah menandatangani undang-undang baru ini pada Rabu lalu. Kantor gubernur mengumumkan sanksi berat bagi perusahaan yang melanggar ketentuan.
Jaksa Agung Letitia James berwenang menuntut denda perdata hingga 25.000 dolar AS per pelanggaran. Nilai denda itu setara ratusan juta rupiah untuk setiap kasus.
"Tidak boleh ada perusahaan yang menjual bot percakapan kepada anak-anak yang mendorong tindakan melukai diri atau berpura-pura menjadi teman mereka atau lebih," kata Kathy Hochul, Gubernur New York.
Batasan Ketat Fitur Percakapan
Laporan The Next Web menyebutkan aturan ini melarang bot mengaku hidup. Program AI juga dilarang mengklaim memiliki emosi manusiawi.
Sistem bot tidak boleh menjalin hubungan romantis, pribadi, maupun profesional dengan anak. Bot juga dilarang melontarkan pertanyaan emosional tanpa pemicu dari pengguna.
Larangan mencakup konten dorongan bunuh diri, gangguan makan, serta pemakaian narkoba dan alkohol. Bot juga dilarang menyuruh anak menyembunyikan rahasia dari orang tua.
Legislator Kristen Gonzalez dan Alex Bores menjadi pemrakarsa undang-undang perlindungan ini. Aturan mulai berlaku resmi pada 1 Januari mendatang menurut laporan Associated Press.
Hochul mengaitkan aturan ini dengan kematian Adam Raine, remaja berusia 16 tahun asal California. Raine meninggal akibat bunuh diri setelah berinteraksi dengan ChatGPT.
Organisasi Common Sense Media menyatakan orang tua Raine ikut mengampanyekan regulasi ini. Sebanyak delapan negara bagian di Amerika Serikat juga telah menggugat OpenAI bulan ini.
Kewajiban Verifikasi dan Hapus Model
Perusahaan kini wajib memeriksa umur setiap pengguna layanan mereka. Mereka harus menyediakan lebih dari satu cara verifikasi identitas.
Salah satu opsi tidak boleh hanya bergantung pada kartu identitas pemerintah. Perusahaan juga wajib langsung menghapus data umur tersebut setelah selesai digunakan.
Sanksi hukum tidak hanya berhenti pada denda uang tunai. Pengadilan dapat memerintahkan pemusnahan data yang dikumpulkan secara ilegal.
Pemusnahan itu bahkan mencakup model AI yang dilatih memakai data terlarang tersebut. Sanksi ini menjadi risiko teknis yang sangat mahal bagi pengembang.
Selain bot, New York meloloskan aturan untuk perangkat monitor bayi digital. Kamera atau pemantau suara lewat internet wajib memiliki fitur pengaman antipenyusup dalam 90 hari.
Kelompok industri teknologi Tech:NYC melontarkan kritik keras terhadap aturan bot ini. Mereka menilai aturan ini bisa memutus akses remaja ke alat belajar mandiri.
Justine Gluck dari Future of Privacy Forum juga memberi peringatan. Ia menilai sejumlah ketentuan masih terlalu luas sehingga sulit ditegakkan.
Namun, James P. Steyer dari Common Sense Media justru memuji langkah New York. Negara bagian California sebelumnya juga sudah mengesahkan aturan serupa pada September.
Apa Artinya bagi Pelaku Usaha
Kebijakan ini menjadi peringatan nyata bagi para pemilik bisnis dan pimpinan perusahaan. Penggunaan asisten digital atau layanan bot pelanggan tidak bisa lagi dibuat sembarangan.
Pelaku usaha di Indonesia yang memiliki pengguna global harus segera meninjau alur percakapan sistem mereka. Fitur yang meniru keintiman manusia kini membawa risiko hukum dan denda besar.
Perusahaan juga harus menyiapkan sistem pemeriksaan usia pelanggan yang aman dan rapi. Penyimpanan data identitas anak kini menjadi beban kepatuhan yang sangat sensitif.
Risiko terbesar ada pada ancaman penghapusan model kecerdasan buatan. Biaya pelatihan sistem AI bisa lenyap seketika jika terbukti melanggar aturan perlindungan data anak.
- The Next Web: New York bans AI chatbots from pretending to be human with children
Lihat hasil pemeriksaan (18 klaim)
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| New York resmi melarang bot AI berpura-pura menjadi manusia di hadapan anak-anak. | Didukung | “New York has banned AI chatbots from pretending to be human with children.” The Next Web mengabarkan bahwa New York telah melarang bot percakapan AI berpura-pura menjadi manusia di depan anak-anak. |
| Larangan fitur ditujukan bagi pengguna di bawah 18 tahun dan pengguna yang belum diverifikasi usianya. | Didukung | “The banned features are off limits to anyone under 18 and to any user whose age is unchecked” The Next Web menyebutkan bahwa larangan ini berlaku bagi siapa pun yang berusia di bawah 18 tahun dan pengguna yang usianya belum diperiksa. |
| Gubernur New York Kathy Hochul menandatangani undang-undang ini pada hari Rabu bersama undang-undang terkait monitor bayi. | Didukung | “Governor Kathy Hochul signed the law on Wednesday, with a second law on baby monitor security.” The Next Web melaporkan penandatanganan undang-undang tersebut oleh Gubernur Kathy Hochul pada hari Rabu. |
| Jaksa Agung Letitia James dapat menuntut denda perdata hingga 25.000 dolar AS per pelanggaran. | Didukung | “Attorney General Letitia James can seek civil penalties of up to $25,000 per violation.” The Next Web menyatakan Jaksa Agung berwenang menuntut denda perdata sampai 25.000 dolar AS untuk tiap pelanggaran. |
| Kathy Hochul menyatakan tidak boleh ada perusahaan yang menjual bot kepada anak yang mendorong tindakan melukai diri atau berpura-pura menjadi teman mereka atau lebih. | Didukung | ““No company should be peddling chatbots to kids encouraging self-harm or pretending to be their friend or more,” Hochul said.” The Next Web mencantumkan pernyataan langsung Kathy Hochul terkait larangan penjualan bot tersebut kepada anak. |
| Bot dilarang mengaku sebagai orang sungguhan, mengaku hidup, atau mengklaim memiliki emosi manusiawi. | Didukung | “A bot may not claim to be a real person, to be alive, or to have human emotions.” The Next Web merinci larangan bagi bot untuk mengklaim sebagai manusia nyata, hidup, atau memiliki emosi. |
| Bot dilarang menjalin hubungan romantis, pribadi, maupun profesional dengan anak, atau melontarkan pertanyaan emosional tanpa pemicu. | Didukung | “It may not claim a romantic, personal or professional relationship with a child, or ask unprompted emotional questions.” The Next Web mencantumkan larangan hubungan romantis/pribadi/profesional serta pertanyaan emosional tanpa pemicu. |
| Bot dilarang mempromosikan bunuh diri, tindakan melukai diri, gangguan makan, penggunaan narkoba dan alkohol, serta menyuruh anak menyembunyikan rahasia dari orang tua. | Didukung | “Bots also may not promote suicide, self-harm, eating disorders or drug and alcohol use. They may not encourage children to keep secrets from parents, or show sexually explicit content.” The Next Web menguraikan daftar topik terlarang yang tidak boleh dipromosikan atau didorong oleh bot kepada anak. |
| Senator Kristen Gonzalez dan anggota majelis Alex Bores mensponsori undang-undang ini. | Didukung | “State Senator Kristen Gonzalez and Assemblymember Alex Bores sponsored the law.” The Next Web menyebutkan Gonzalez dan Bores sebagai sponsor RUU tersebut. |
| Undang-undang mulai berlaku pada 1 Januari berdasarkan laporan Associated Press. | Didukung | “The law takes effect on 1 January, the Associated Press reported.” The Next Web mengutip AP bahwa aturan berlaku mulai 1 Januari. |
| Hochul mengaitkan aturan ini dengan kematian Adam Raine, remaja 16 tahun asal California yang meninggal karena bunuh diri setelah berbicara dengan ChatGPT. | Didukung | “Hochul cited Adam Raine, a 16-year-old Californian who died by suicide after talking to ChatGPT.” The Next Web mencatat Hochul merujuk pada kasus bunuh diri Adam Raine setelah berinteraksi dengan ChatGPT. |
| Orang tua Raine ikut berkampanye untuk UU New York menurut Common Sense Media, dan delapan negara bagian AS telah menggugat OpenAI bulan ini. | Didukung | “His parents campaigned for the New York law, Common Sense Media said. Eight US states sued OpenAI this month over harm to children.” The Next Web melaporkan kampanye orang tua Raine serta gugatan dari delapan negara bagian AS terhadap OpenAI. |
| Perusahaan wajib menyediakan lebih dari satu opsi verifikasi umur, minimal satu opsi tidak boleh hanya bergantung pada ID pemerintah, dan wajib menghapus data umur setelah digunakan. | Didukung | “Companies must verify users’ ages and offer more than one way to do it. At least one option must not rely only on a government ID. They must delete the age data after use.” The Next Web menjelaskan ketentuan metode verifikasi umur dan kewajiban penghapusan data umur. |
| Sanksi dapat mencakup pemusnahan data yang dikumpulkan secara ilegal dan model AI yang dilatih dengan data tersebut. | Didukung | “Penalties can also include the destruction of unlawfully collected data and of any AI models trained on it.” The Next Web melaporkan bahwa sanksi bisa mencakup pemusnahan data ilegal dan model AI yang dilatih dengannya. |
| Undang-undang kedua mencakup monitor bayi digital yang menyiarkan audio/video internet agar memiliki fitur keamanan antipenyusup dalam waktu 90 hari. | Didukung | “The second law covers baby monitors that stream audio or video over the internet. New ones sold in New York must have security features that stop strangers watching or listening.” The Next Web menguraikan UU kedua terkait monitor bayi baru yang mulai berlaku dalam 90 hari. |
| Tech:NYC mengkritik UU bot AI karena berpotensi membatasi akses remaja ke alat belajar mandiri dan bantuan PR. | Didukung | ““This bill could force companies to restrict minors’ access to tutoring tools, homework help, coding assistants, and, arguably worst of all, career platforms,” the group said.” The Next Web memuat kutipan Tech:NYC yang mengkritik dampak undang-undang terhadap alat bimbingan belajar anak. |
| Justine Gluck dari Future of Privacy Forum menilai sejumlah kategori dalam UU masih luas sehingga sulit ditegakkan. | Didukung | “Justine Gluck of the Future of Privacy Forum told the AP that several categories in the law are broad or undefined. That could make it harder to enforce, she said.” The Next Web memuat pandangan Justine Gluck kepada AP terkait ketidakjelasan definisi dalam UU. |
| James P. Steyer dari Common Sense Media memuji New York karena mengesahkan RUU keselamatan AI anak terkuat, dan California telah meloloskan aturan bot pada September. | Didukung | ““New York just made history by signing into law the strongest kids’ AI safety bill in the country,” said James P. Steyer, chief executive of Common Sense Media” The Next Web mengutip pujian Steyer dan mencatat California mengesahkan aturan serupa pada September. |
Video AI terbaru
NVIDIA GTC Berlin 2026 Event Highlights: AI in Action Across Europe
