SUMATERA SELATAN — Carli Michelle Heller, warga Florida, ditahan polisi setelah percakapannya dengan chatbot Claude milik Anthropic terdeteksi memuat rencana menyerang kantor Sheriff. Sistem keamanan Claude menandai percakapan itu pada 26 September, lalu tim pengawas manusia Anthropic meneruskannya ke aparat. Kasus ini memunculkan pertanyaan soal batas privasi percakapan pengguna dengan layanan AI.
Claude, chatbot besutan Anthropic, dipakai Heller sebagai ruang curhat layaknya buku diary digital. Percakapan itu berisi dugaan rencana penyerangan terhadap kantor Sheriff setempat. Anthropic menegaskan pihaknya dapat membagikan informasi pengguna dalam kondisi darurat tertentu, terutama bila dinilai perlu mencegah kematian atau cedera serius.
Kronologi hingga Heller Ditahan
Sistem keamanan Claude menandai percakapan Heller pada 26 September. Reviewer manusia di Anthropic menilai ancaman tersebut kredibel, kemudian melaporkannya ke kepolisian.
Aparat mengidentifikasi Heller dan mendatangi rumahnya. Dia ditahan tanpa insiden dan kini menghadapi dakwaan felony tingkat dua terkait ancaman kekerasan secara tertulis berdasarkan hukum Florida.
Kapan Anthropic Boleh Melapor ke Polisi
Anthropic menyatakan bisa membagikan informasi pengguna dalam kondisi darurat tertentu. Kebijakan itu berlaku bila informasi dianggap diperlukan untuk mencegah kematian atau cedera serius.
Artinya, percakapan dengan Claude tidak sepenuhnya bersifat privat. Meski terasa seperti tempat curhat pribadi, isi percakapan tetap bisa dibaca dan ditindaklanjuti pihak lain jika memicu sistem peringatan.
Polemik Privasi vs Keselamatan Publik
Kasus Heller membuka perdebatan soal sejauh mana perusahaan AI wajib menjaga privasi pengguna. Di sisi lain, muncul pertanyaan kapan perusahaan AI boleh ikut campur saat menemukan ancaman serius.
Praktik serupa sebenarnya sudah lazim di layanan digital lain. Platform email dan media sosial memiliki mekanisme pelaporan otomatis ke aparat jika mendeteksi konten yang mengancam keselamatan.
Implikasi bagi Pengguna AI di Indonesia
Pengguna chatbot AI di Indonesia perlu memahami bahwa percakapan mereka dapat dipindai sistem keamanan. Data tersebut berpotensi diteruskan ke pihak berwenang jika memenuhi kriteria darurat tertentu.
UU Pelindungan Data Pribadi (UU PDP) mengatur pemrosesan data pengguna, termasuk pengecualian untuk kepentingan keselamatan. Namun, batas kapan data bisa dibagikan ke aparat masih jadi area abu-abu yang perlu diperjelas.
Kasus Heller menjadi pengingat bahwa chatbot AI bukan ruang privat tanpa pengawasan. Pengguna sebaiknya tetap berhati-hati menuliskan apa pun, termasuk saat memakai layanan seperti Claude untuk curhat.
