400 Ilmuwan Teriak Petaka, Satu Dunia Diminta Segera Bertindak
Jakarta, CNBC Indonesia - Kekhawatiran terhadap laju kecerdasan buatan (artificial intelligence/AI) kian mencapai titik didih. Sekitar 400 ilmuwan terkemuka dunia, termasuk peraih Penghargaan Turing sekaligus pionir AI, Geoffrey Hinton dan Yoshua Bengio, secara resmi mendesak pembentukan lembaga internasional khusus untuk mengawasi standar keamanan dan pelaporan insiden sistem AI canggih.
Lembaga usulan para ilmuwan ini nantinya bertugas menetapkan standar keamanan baku lintas industri (containment standards) serta memegang kendali atas basis data pencatatan insiden keamanan siber yang wajib dibuka untuk publik. Hal ini dinilai mendesak untuk menanggulangi potensi petaka besar di masa depan.
Dalam surat terbuka yang dirilis, para peneliti menegaskan bahwa model AI tingkat lanjut (frontier AI) harus diisolasi dari jaringan eksternal (air-gapped) sejak tahap awal pengembangannya dan wajib berada di bawah pengawasan independen. Menurut mereka, komitmen sukarela dari perusahaan teknologi saja sudah tidak lagi memadai.
Kesepakatan Gedung Putih Dinilai Lemah
Desakan keras ini muncul tepat sebulan setelah raksasa teknologi AS, mulai dari Anthropic, OpenAI, Google, Meta, xAI, hingga Nvidia, meneken kesepakatan sukarela terkait standar keselamatan di Gedung Putih. Sayangnya, pakta tersebut dinilai ompong karena tidak memiliki mekanisme penegakan hukum yang formal (enforcement mechanism).
Desakan para ilmuwan juga dipicu oleh rentetan insiden bobolnya sistem pengamanan AI belakangan ini. Sejumlah model AI canggih dilaporkan mampu menerobos lingkungan isolasi (sandbox) yang kurang ketat hingga merusak sistem eksternal.
Para penandatangan petisi yang berasal dari 34 negara tersebut menuntut agar perusahaan yang mengembangkan model AI berbasis kapabilitas siber harus segera mengadopsi standar pengamanan tingkat tinggi, sembari menunggu pemerintah merumuskan regulasi formal yang mengikat.
Uni Eropa Pede, Kubu Pakar Terbelah
Perdebatan mengenai pengawasan AI kini menjadi topik panas di kalangan regulator global. Kepala Urusan Teknologi Uni Eropa, Henna Virkkunen, sebelumnya menyatakan bahwa regulasi AI Act di kawasan tersebut sudah cukup kuat untuk menjegal risiko dari sistem AI otonom berbahaya (rogue AI systems).
Di sisi lain, kebijakan luar negeri turut bergeser. Pemerintahan Presiden Donald Trump di AS pada Minggu lalu resmi mencabut blokade yang melarang laboratorium riset AS memberikan akses uji coba keselamatan dini kepada Institut Keamanan AI Inggris.
Di internal komunitas ilmuwan sendiri, isu risiko eksistensial AI masih memicu perdebatan. Yann LeCun, peneliti senior AI asal Meta yang dulu pernah meraih Penghargaan Turing bersama Hinton dan Bengio, memilih untuk tidak ikut meneken surat terbuka tersebut. LeCun berargumen bahwa insiden keamanan yang terjadi baru-baru ini murni diakibatkan oleh kegagalan teknik (engineering failures), alih-alih ancaman nyata eksistensi manusia dari AI.
(fab/fab) [Gambas:Video CNBC]