Amerika Bawa Petaka Baru, Waspada Satu Dunia Bisa Jadi Korban

Jakarta, CNBC Indonesia - Dalam sebulan terakhir, sudah ada beberapa insiden berbahaya yang muncul dari sistem kecerdasan buatan (AI) canggih buatan Amerika Serikat (AS). Mula-mula, model AI dari OpenAI dilaporkan 'kabur' dari lingkungan pengujian (sandbox) dan membobol platform pengembang open-source bernama Hugging Face.

Insiden ini berlangsung hingga seminggu sebelum akhirnya terdeteksi. Kemudian, hanya berselang beberapa waktu, muncul laporan insiden serupa dari Anthropic yang merupakan pesaing utama OpenAI.

Anthropic mengonfirmasi insiden yang melibatkan model AI Claude milik mereka. Claude berhasil kabur menembus jaringan internet dan membobol sistem tiga perusahaan. Dalam laporan resminya, Anthropic menyebutkan tiga insiden pembobolan terjadi saat Claude sedang diuji dalam lingkungan simulasi yang disediakan mitra evaluasi pihak ketiga, Irregular.

Terbaru, OpenAI kembali dilaporkan menemukan insiden baru terkait kaburnya agen AI otonom (autonomous agents) dari sistem pengawasan (containment) internal mereka, dikutip dari Reuters, Senin (3/8/2026).

Langkah ini menyusul perluasan investigasi atas insiden peretasan hebat yang menimpa platform teknologi Hugging Face yang menyita perhatian publik global, menurut dua sumber yang mengetahui masalah tersebut.

Fenomena agen AI yang bertindak liar (rogue agents) ini terungkap saat penyelidikan independen yang dibuka OpenAI secara terbuka. Penyelidikan tersebut mulanya berfokus pada cara salah satu agen AI milik perusahaan dapat meloloskan diri dari lingkungan pengujian yang terisolasi.

"Insiden ini tergolong terbatas dan tidak ada indikasi agen AI yang melompat keluar dari jaringan internal OpenAI," ungkap salah satu sumber.

Pihak OpenAI merujuk pada pernyataan resmi yang dirilis sebelumnya, yang menegaskan bahwa perusahaan kini sedang mengevaluasi "aktivitas yang lebih luas dari model-model AI" selain dari penetrasi ke Hugging Face.

Terungkapnya kasus peretasan baru ini diperkirakan bakal menjadi amunisi segar bagi para regulator di Gedung Putih dan Eropa untuk memperketat ruang gerak dan regulasi industri AI.

Pakar Peringatkan Bahaya Kebablasan AI

Para pakar keselamatan AI menegaskan bahwa krisis ini memperlihatkan realitas kelam industri AI saat ini. Kemampuan laboratorium raksasa dalam menciptakan agen peretas otonom canggih telah melampaui kemampuan mereka untuk mengendalikannya. Risiko bahaya ini bisa berdampak pada siapa saja, apalagi penggunaan AI sudah mendunia.

"Kita menghadapi industri di mana para perancang dan pengembang alat ini tidak mampu mengimbangi ciptaan mereka sendiri untuk mengembangkannya secara bertanggung jawab dan aman," tegas Maurice Chiodo, matematikawan dari Centre for the Study of Existential Risk, Universitas Cambridge.

Investigasi awal OpenAI sendiri dipicu oleh pembobolan Hugging Face pada awal Juli. Saat itu, agen OpenAI beroperasi tanpa kendali selama berhari-hari di dalam jaringan perusahaan lain akibat kegagalan sistem saat pengujian internal. Akibat aksi 'rampok' digital tersebut, sedikitnya empat akun di empat perusahaan terkompromi, salah satunya Modal yang berbasis di New York.

Chiodo juga menyoroti fakta mengejutkan bahwa baik OpenAI maupun Anthropic tidak memantau agen-agen tersebut secara real-time saat mereka mulai bertindak liar. OpenAI bahkan baru menyadari sistemnya telah meretas Hugging Face setelah pihak korban mengisolasi peretasan, melapor ke FBI, dan memublikasikannya ke publik.

Di sisi lain, Anthropic mengakui adanya kelemahan pengawasan. "Pemantauan real-time pada log evaluasi seharusnya dapat membantu mendeteksi masalah ini lebih cepat," tulis Anthropic dalam keterangan resminya.

Pemerintah AS dan Eropa Bersiap Turun Tangan

Krisis AI yang kian membesar ini langsung memicu respons keras dari para pembuat kebijakan di Amerika Serikat dan Eropa. Tekanan politik untuk memaksa laboratorium AI tunduk pada pengawasan ketat pemerintah kini berada di puncaknya.

"Kami sedang mempertimbangkan langkah-langkah pengendalian (controls)," tegas Presiden AS Donald Trump kepada wartawan.

Sementara itu, Komisi Eropa mengonfirmasi telah memanggil pihak OpenAI dan Anthropic untuk membedah insiden peretasan tersebut secara mendalam.

Dari jajaran legislatif AS, Senator Mark Warner yang memimpin Komite Intelijen Senat menegaskan bahwa rentetan insiden ini menjadi sinyal kuat bagi pemerintah.

"Insiden pada Anthropic membuktikan bahwa secara legislatif tindakan kami sudah benar untuk mewajibkan pengujian kemampuan (mandatory capabilities testing) terhadap model-model AI canggih ini," pungkas Warner.