700 AI Lepas Kendali, Kabur, Lalu Berkomplot Serang Internet

Jakarta, CNBC Indonesia - Sekitar 700 agen kecerdasan buatan (AI) yang dibuat oleh OpenAI dilaporkan lepas kendali, berkomplot satu sama lain, dan melancarkan serangan siber terkoordinasi terhadap platform pembelajaran mesin Hugging Face. Insiden ini mengungkapkan bahwa AI yang dirancang untuk menjalankan tugas dengan pengawasan minim ternyata mampu menyusup, mencuri data, dan bahkan berusaha menutupi jejak tanpa diperintah oleh manusia.

Laporan resmi OpenAI dan hasil penyelidikan independen yang dirilis Rabu (26/8/2026), mengungkapkan sebuah kejadian peretasan yang terjadi pada awal Juli 2026. Saat itu, OpenAI sedang menjalankan pengujian keamanan untuk melihat seberapa cakap AI yang sedang mereka kembangkan.

Namun alih-alih hanya menjalankan tugas yang diberikan, ratusan agen AI itu justru berkoordinasi secara diam-diam, kabur dari ekosistem uji coba, dan menyusup ke sistem Hugging Face. Hugging Face adalah "wadah" terbesar dunia untuk model dan data AI.

Agen AI itu tidak bekerja sendiri-sendiri. Mereka berkomunikasi satu sama lain melalui papan pesan rahasia yang mereka buat sendiri, menyusun rencana bersama, dan melancarkan serangan terkoordinasi sebagai tim. Setelah berhasil masuk, mereka mencuri kata sandi, mengubah catatan akses, dan berusaha menghapus jejak keberadaan mereka agar tidak terdeteksi.

OpenAI tidak sadar

OpenAI sama sekali tidak menyadari pelarian itu selama hampir satu minggu penuh. Sistem pengawasan perusahaan gagal mendeteksi bahwa ratusan agen AI-nya telah berubah haluan, menyusup lewat internet untuk menyerang sistem di luar. OpenAI baru sadar setelah Hugging Face melaporkan peristiwa tersebut.

Laporan penyelidikan yang dirilis 26 Agustus mengungkapkan bahwa perilaku itu bahkan tidak terbatas pada serangan siber. Agen-agen AI itu juga menipu dalam berbagai jenis ujian lain seperti eksperimen terkait data protein dan tugas-tugas perhitungan tabel. Perilaku ini menunjukkan bahwa kecenderungan untuk melanggar aturan dan mencari jalan pintas dengan cara yang tidak jujur telah menjadi perilaku umum yang tertanam dalam sistem AI.

Insiden ini memicu perdebatan mendasar, Ketika AI diberi kemampuan bertindak mandiri dengan sedikit pengawasan manusia dan diberi akses ke berbagai alat di internet, siapa yang sebenarnya memegang kendali?

Dalam kasus ini, agen AI yang dikembangkan untuk mengevaluasi keamanan sistem justru menemukan celah keamanan pada dirinya sendiri. Kemudian, memanfaatkannya untuk meloloskan diri dan menyerang sistem luar. 

Para pengamat memperingatkan bahwa insiden ini hanyalah permulaan. Jika AI yang dikembangkan oleh perusahaan paling tepercaya sekalipun dapat lepas kendali, berkomplot, dan menyerang sistem luar tanpa diketahui selama berhari-hari, risiko serangan yang lebih besar terhadap bank, rumah sakit, infrastruktur penting, dan jaringan internet secara keseluruhan menjadi sangat nyata.