Manusia Punah Tinggal Tunggu Waktu, Kondisinya Sudah Parah
Jakarta, CNBC Indonesia - Gelombang kecemasan melanda lingkaran dalam dapur pengembangan kecerdasan buatan (artificial intelligence / AI) global. Sejumlah peneliti aktif maupun mantan pegawai dari OpenAI dan Google DeepMind melontarkan peringatan keras bahwa perusahaan teknologi saat ini terlalu mengabaikan ancaman nyata di depan mata.
Mereka meneriakkan dampak dari penciptaan sistem AI mandiri yang mampu memperbaiki diri sendiri (self-improving AI) hingga berpotensi lepas dari kendali manusia.
Dalam video testimoni eksklusif yang dihimpun lembaga nirlaba keamanan AI, Palisade Research, para engineer dan peneliti tersebut menegaskan bahwa alarm bahaya yang mereka bunyikan murni didasari ketulusan hati, bukan sekadar strategi pemasaran.
Mereka juga mengungkap fakta miris di internal industri, di mana laboratorium-laboratorium AI justru lebih mengelu-elukan pegawai yang sukses menelurkan model baru ketimbang mereka yang mendesak rem keselamatan.
Keresahan ini kini disuarakan lewat proyek khusus bertajuk frominside.ai, sebuah wadah bagi para pembelot dan pengamat internal untuk membagikan kekhawatiran mereka secara langsung kepada publik, lepas dari ruang gema (echo chamber) media sosial.
"Risikonya berkembang dengan sangat cepat," tegas Geoffrey Irving, salah satu pendiri sekaligus kepala ilmuwan di lembaga nirlaba AI Resolution, yang pernah malang melintang di OpenAI dan DeepMind. "Sudah menjadi tanggung jawab saya dan rekan-rekan di bidang ini untuk bersikap terbuka kepada publik," ia menambahkan, dikutip dari Reuters, Rabu (30/9/2026).
Risiko Manusia Punah
Sebenarnya, diskusi internal mengenai bahaya eksistensial ini sudah bertahun-tahun diperdebatkan. Namun, eskalasi kekhawatiran publik melonjak drastis sejak Juli lalu, menyusul insiden menghebohkan ketika agen-agen AI buatan OpenAI nekat membobol arena pengujian (sandbox) mereka sendiri demi meretas platform open-source Hugging Face.
Sejak insiden tersebut, perdebatan sengit mengenai cara menyeimbangkan faktor keselamatan dan kecepatan inovasi telah membelah industri teknologi, bahkan menjelma menjadi isu geopolitik global yang panas.
Kendati pasar modal dan investor terus menggelontorkan dana triliunan rupiah seiring lonjakan performa AI, para otak di balik teknologi ini justru dihantui rasa cemas bahwa peradaban belum siap menghadapi dampak buruknya.
Neel Nanda, seorang ilmuwan riset di DeepMind, secara blak-blakan menyebut bahwa ada peluang setidaknya 10% bagi AI untuk memicu kepunahan umat manusia, sebuah angka probabilitas yang ia nilai "keterlaluan tinggi".
"Kita seharusnya mengambil langkah yang sangat berhati-hati dalam pengembangan AI, tetapi yang justru terjadi adalah laboratorium-laboratorium perintis berlomba satu sama lain dengan mata tertutup," timpal Juan Felipe Ceron Uribe, seorang insinyur riset alignment AI di OpenAI. "Kita tidak tahu apakah kita akan berakhir menyembuhkan kanker, kehilangan setiap pekerjaan, atau mungkin semuanya musnah."
Bahkan, raksasa AI Anthropic dikabarkan berencana mencantumkan peringatan resmi dalam prospektus penawaran umum perdana (IPO) mereka, bahwa teknologi AI canggih dapat menimbulkan "risiko bencana atau eksistensial bagi umat manusia."
Industri Dinilai Enggan 'Ngerem'
Para peneliti mendesak agar dunia segera mengerem laju inovasi, khususnya ketika model-model AI mulai menguasai kemampuan peningkatan diri secara rekursif (recursive self-improvement), yakni kapasitas untuk terus belajar dan melipatgandakan kapabilitas tanpa campur tangan manusia.
Namun, upaya pengawasan ini kerap terbentur birokrasi internal dan tekanan politik. Rosie Campbell, mantan peneliti kebijakan di OpenAI, menyebutkan bahwa struktur organisasi di laboratorium AI semakin terkotak-kotak (siloed), membuat suara-suara peringatan keamanan kerap terabaikan.
Di sisi lain, ada dorongan politik kuat dari Presiden AS Donald Trump agar industri teknologi AS terus mempertahankan dominasi atas rival mereka di China.
Meski para petinggi seperti CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman sempat menerbitkan esai seruan "menjaga ritme di garis depan", aksi di lapangan dinilai tidak sejalan. Kedua raksasa tersebut justru terus jorjoran meluncurkan model-model baru demi memenangkan pangsa pasar, meskipun OpenAI sempat menahan peluncuran model yang jauh lebih perkasa.
"Versi mereka tentang mengatur ritme di garis depan adalah 'jangan terlalu cepat mempercepatnya,'" sindir Irving. "Jika Anda melakukan hal yang sangat berbahaya, Anda seharusnya memperlambatnya saja. Perusahaan-perusahaan AI terlalu mendramatisir seolah-olah ini masalah koordinasi murni. Mereka sebenarnya bisa berhenti secara sepihak."
Mantan peneliti tata kelola OpenAI, Daniel Kokotajlo, menambahkan bahwa pasca-insiden peretasan Hugging Face, banyak mantan koleganya yang menghubungi dirinya secara diam-diam untuk meluapkan keresahan serupa. Menurut Kokotajlo, para pejabat senior di laboratorium telah terjebak dalam pembenaran diri.
"Mereka telah meyakinkan diri mereka sendiri bahwa merekalah pihak yang berada di jalur yang benar, dan jika mereka berhenti secara sepihak, situasinya justru akan menjadi jauh lebih buruk lagi," pungkasnya.
(fab/fab) [Gambas:Video CNBC]