Pakai Claude AI sebagai Buku Harian, Wanita AS Ditangkap Polisi
Percakapan pengguna dengan Claude dipantau oleh tim manusia. Pesan berisi ancaman langsung dilaporkan ke pihak berwajib.
Gambar buatan AI, bukan foto asli (Lucid Origin (Leonardo) via Cloudflare Workers AI)
Poin penting
- Pengguna Claude ditangkap di Florida setelah menulis ancaman kekerasan di ruang obrolan.
- Sistem Anthropic memindai teks berbahaya lalu meneruskannya ke tim pemeriksa manusia.
- Aturan Anthropic dan OpenAI mengizinkan penyerahan data pengguna ke aparat penegak hukum.
Banyak orang menganggap ruang obrolan AI bersifat pribadi. Kasus hukum di Amerika Serikat ini membuktikan sebaliknya.
Carli Michelle Heller, warga Bonita Springs, Florida, ditangkap pihak kepolisian. Ia menggunakan Claude, asisten cerdas buatan Anthropic, layaknya buku harian digital.
Menurut laporan Decrypt, Heller menulis rencana penembakan kantor polisi Lee County pada 26 September. Percakapan itu juga mencatat ia sudah membeli senjata baru keesokan harinya.
Sistem Pemantau dan Tinjauan Manusia
Platform Claude memindai kata kunci yang memuat ancaman bahaya secara otomatis. Sistem lalu mengirim pesan mencurigakan itu ke tim peninjau manusia milik Anthropic.
Setelah memeriksa isi teks, staf Anthropic segera melapor ke aparat penegak hukum. Polisi kemudian mendatangi rumah Heller dan menahannya tanpa perlawanan.
Heller kini menghadapi dakwaan kejahatan berat atas ancaman kekerasan tertulis. Sidang pengadilannya dijadwalkan berlangsung pada November mendatang.
Kebijakan privasi Anthropic secara tegas mengizinkan penyerahan data ini ke polisi. Perusahaan berhak membagikan isi obrolan demi mencegah ancaman bahaya fisik yang serius.
Bahkan jika pengguna menolak pelacakan data, Anthropic tetap menyimpan obrolan selama tiga bulan. Pesan yang memicu peringatan keamanan juga tetap dipakai melatih sistem pendeteksi mereka.
Bukan Kasus Pertama di Industri AI
Kasus serupa pernah terjadi sebelumnya di industri AI. Anthropic pernah melaporkan seorang pengguna yang mengaku membeli senapan AR-15 untuk mengincar CEO Dario Amodei.
Penyedia AI lain seperti OpenAI juga menerapkan kebijakan peninjauan serupa. Kebijakan OpenAI sejak Agustus 2025 mengarahkan pesan ancaman kekerasan kepada pemeriksa manusia sebelum diteruskan ke polisi.
Isu pemantauan ini sempat mencuat setelah penembakan sekolah di Tumbler Ridge, British Columbia. Saat itu, OpenAI sempat mempertimbangkan melapor ke polisi Kanada sebelum insiden terjadi.
Pelajaran Penting bagi Pemilik Usaha
Kasus ini menjadi peringatan nyata bagi para pimpinan bisnis dan profesional. Ruang obrolan AI komersial bukanlah brankas tertutup untuk rahasia pribadi maupun perusahaan.
Karyawan penyedia layanan tetap bisa membaca isi percakapan yang ditandai sistem. Pemilik bisnis perlu melatih staf agar tidak memasukkan data rahasia atau sensitif ke aplikasi AI publik.
- Decrypt: A Florida Woman Used Claude as a Diary. An Anthropic Employee Read It and Reported It to Police
Lihat hasil pemeriksaan
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Carli Michelle Heller dari Bonita Springs, Florida ditangkap polisi setelah menulis rencana penembakan kantor polisi Lee County di Claude pada 26 September. | Didukung | “Carli Michelle Heller, of Bonita Springs, was arrested after investigators found she wrote on Sept. 26 that she would “shoot up” the Lee County Sheriff’s Office” Decrypt melaporkan penangkapan Heller di Bonita Springs setelah menulis ancaman penembakan kantor polisi Lee County. |
| Akun Claude milik Heller menunjukkan obrolan bahwa ia telah membeli senjata baru pada keesokan harinya. | Didukung | “Per investigations, her Claude account showed conversations saying that she had gotten a new gun by the next day.” Decrypt mengutip hasil investigasi terkait kepemilikan senjata baru pada keesokan harinya. |
| Sistem Anthropic memantau kata kunci dan konten bernada ancaman, lalu meneruskannya ke tim peninjau manusia yang melaporkannya ke aparat penegak hukum. | Didukung | “Because of the severity of the statements, they went to a human review team, which reported them to law enforcement.” Decrypt menyebutkan sistem memfilter pesan dan tim peninjau manusia meneruskannya ke kepolisian. |
| Polisi mendatangi rumah Heller dan menahannya tanpa perlawanan atas dakwaan ancaman kekerasan tertulis, dengan jadwal sidang pada November. | Didukung | “Deputies identified Heller, went to her home, and detained her without incident. She is charged with making a written threat of violence.” Decrypt melaporkan penahanan di rumah tanpa insiden, dakwaan kejahatan kekerasan tertulis, dan sidang pada November. |
| Kebijakan privasi Anthropic mengizinkan penyerahan data pengguna ke polisi untuk mencegah bahaya fisik serius, serta tetap menyimpan data selama tiga bulan meski pengguna memilih opt-out. | Didukung | “Effectively, even opting out of handling your data for model trading gives Anthropic the right to use your data for three months instead of five years” Decrypt merinci kebijakan privasi Anthropic terkait penyerahan data ke polisi dan retensi data 3 bulan. |
| Anthropic sebelumnya pernah melaporkan pengguna yang mengklaim membeli AR-15 dan mengincar CEO Dario Amodei. | Didukung | “The San Francisco Standard reported in September that Anthropic referred a user to police after he allegedly wrote that he had bought an AR-15 and had CEO Dario Amodei in his crosshairs.” Decrypt mengutip laporan San Francisco Standard mengenai insiden ancaman terhadap CEO Anthropic Dario Amodei. |
| OpenAI memiliki kebijakan sejak Agustus 2025 untuk mengarahkan ancaman ke peninjau manusia, serta pernah mempertimbangkan melapor ke polisi Kanada sebelum insiden Tumbler Ridge. | Didukung | “OpenAI’s own August 2025 policy post routes threats against others to human reviewers who may refer them to law enforcement.” Decrypt menjelaskan riwayat penanganan OpenAI pada kasus Tumbler Ridge dan kebijakan Agustus 2025. |
Video AI terbaru
Production Monitoring with Codex: Grafana, Kubernetes, & Security
