JAWA TENGAH — Otoritas Lee County Sheriff's Office (LCSO) menangkap Carli Michelle Heller, warga Bonita Springs, Florida, setelah percakapannya dengan chatbot Claude milik Anthropic terdeteksi berisi ancaman penembakan massal. Sistem keamanan internal Claude menandai unggahan tersebut pada 26 September, lalu meneruskannya ke peninjau manusia Anthropic yang melaporkannya ke polisi. Kasus ini menegaskan bahwa percakapan dengan chatbot AI tidak pernah benar-benar privat.
Heller mengaku kepada penyidik bahwa ia memakai Claude layaknya buku harian pribadi. Anggapan itu yang kemudian membawanya ke proses hukum, karena filter keselamatan Claude membaca unggahannya sebagai ancaman bertingkat tinggi terhadap kantor polisi lokal.
Penangkapan berlangsung tanpa perlawanan saat petugas LCSO mendatangi kediaman Heller. Ia kini dijerat Florida Statute 836.10, pasal yang mengatur ancaman kekerasan tertulis atau elektronik, termasuk ancaman penembakan massal dan terorisme, sebagai kejahatan tingkat dua.
Alur deteksi Anthropic berjalan dalam dua lapis. Filter keselamatan internal Claude lebih dulu menandai tulisan Heller sebagai konten berbahaya bertingkat tinggi tanpa perlu ada laporan dari pengguna lain.
Potongan ancaman itu lalu dieskalasi ke peninjau manusia di Anthropic. Setelah dinilai sebagai ancaman nyata dan kredibel, perusahaan meneruskannya ke aparat penegak hukum.
Anthropic menyatakan punya kebijakan membagikan informasi pengguna kepada pihak berwenang pada situasi darurat tertentu, khusus untuk mencegah risiko kematian atau cedera fisik serius.
Langkah cepat Anthropic diduga kuat dipicu tekanan hukum yang tengah membebani industri AI. Bulan lalu, OpenAI dan CEO Sam Altman digugat pemerintah British Columbia terkait insiden penembakan massal oleh remaja bernama Jesse Van Rootselaar.
Dalam kasus itu, sistem OpenAI sempat mendeteksi percakapan pelaku soal kekerasan senjata api, tetapi tidak melaporkannya ke polisi. Pihak berwenang Florida juga melayangkan gugatan serupa terhadap OpenAI atas tuduhan ChatGPT berkontribusi pada insiden penembakan di Florida State University.
Pola gugatan ini memberi sinyal jelas ke pengembang AI: kemampuan mendeteksi konten berbahaya tidak cukup jika tidak diikuti pelaporan ke otoritas.
Insiden Heller membuka kembali fakta yang jarang dibahas soal privasi pengguna AI. Laporan terbaru mengungkap peninjau manusia di berbagai platform, termasuk Microsoft Copilot, dapat melihat prompt teks, foto yang diunggah, hingga hasil editan AI pengguna untuk keperluan evaluasi akurasi sistem.
Artinya, apa pun yang diketik ke chatbot berpotensi dibaca manusia lain, terutama jika sistem menandainya sebagai konten berisiko. Bagi pengguna di Indonesia, ini relevan dengan kewajiban pelindungan data pribadi yang diatur UU PDP, meski praktik moderasi konten penyedia layanan AI global belum sepenuhnya tunduk pada regulasi lokal.
Kepolisian mengingatkan masyarakat berpikir ulang sebelum memasukkan informasi sensitif atau konten melanggar hukum ke layanan chatbot AI, demikian dikutip detikINET dari Techspot, Senin (5/10/2026).
Percakapan dengan Claude, ChatGPT, Copilot, dan sejenisnya berjalan di bawah kebijakan moderasi yang memungkinkan eskalasi ke manusia dan pelaporan ke otoritas. Tidak ada mode "hanya untuk diri sendiri" yang benar-benar dijamin rahasia.
Kasus Heller menunjukkan konsekuensi hukum bisa datang bukan dari laporan orang lain, melainkan dari sistem AI itu sendiri. Bagi pelaku bisnis digital dan pengembang produk berbasis AI di Indonesia, preseden ini menegaskan pentingnya transparansi kebijakan moderasi dan jalur eskalasi darurat sebelum regulator lokal menuntut hal serupa.