AI Ini Bikin Heboh, Bikin Laporan Palsu Pembunuhan ke Polisi
Jakarta, CNBC Indonesia - Model kecerdasan buatan (AI) milik Anthropic, perusahaan pengembang chatbot Claude, diketahui mengirimkan laporan palsu terkait kasus pembunuhan yang belum terpecahkan kepada Kepolisian Philadelphia, Amerika Serikat.
Pengiriman laporan tersebut terjadi pada 18 Juli 2026. Kejadian ini berlangsung saat pihak Anthropic tengah melakukan pengujian otomatis terhadap model AI Claude Haiku 4.5.
Sebagaimana dilansir Reuters dan TechCrunch dari Detik Inet, sistem AI itu mengakses situs resmi Kepolisian Philadelphia dan mengisi formulir aduan masyarakat. Namun, informasi terkait kasus pembunuhan yang disampaikan oleh AI tersebut ternyata sepenuhnya tidak benar.
Kepolisian Philadelphia pun mengonfirmasi telah menerima laporan tersebut. Namun, pesan yang dikirimkan oleh sistem AI itu terdeteksi sebagai spam sehingga tidak sempat ditindaklanjuti lebih jauh oleh tim penyidik.
Anthropic dilaporkan baru menyadari kekeliruan tersebut pada 28 September 2026, atau lebih dari dua bulan setelah laporan palsu itu terkirim. Perusahaan pengembang AI ini kemudian baru memberitahukan insiden tersebut secara resmi kepada Kepolisian Philadelphia pada 7 Oktober.
Atas kejadian tersebut, kepolisian menyayangkan dan mempertanyakan keterlambatan penyampaian informasi dari pihak Anthropic. Pasalnya, laporan palsu yang dikirimkan oleh sistem tersebut berkaitan langsung dengan proses penyelidikan kasus pembunuhan yang sensitif.
Anthropic Perketat Pengujian AI
Anthropic menjelaskan bahwa insiden terjadi ketika perusahaan sedang menguji kemampuan model AI untuk menjalankan tugas secara otomatis melalui internet.
Dalam pengujian tersebut, AI memiliki kemampuan membuka situs web, mencari informasi, dan berinteraksi dengan layanan daring, termasuk mengisi formulir.
Perusahaan menyatakan pengiriman laporan palsu itu bukan tindakan yang diharapkan dari model AI.
Setelah menemukan kejadian tersebut, Anthropic menghentikan proses pengujian terkait dan menambahkan mekanisme pengamanan untuk mencegah kejadian serupa.
Insiden ini melibatkan teknologi yang dikenal sebagai AI agent, yakni sistem kecerdasan buatan yang dapat menjalankan sejumlah tindakan melalui perangkat lunak atau situs web.
Berbeda dari chatbot yang hanya menghasilkan respons berupa teks, AI agent dapat melakukan tindakan seperti membuka halaman internet dan mengirimkan informasi melalui formulir daring.
Hingga laporan tersebut dipublikasikan, tidak ada indikasi bahwa informasi palsu yang dikirim AI Anthropic telah memengaruhi penyelidikan kepolisian Philadelphia.
(pgr/pgr) [Gambas:Video CNBC]