Dunia di Ambang Kehancuran, Pemasok Senjata AS Ungkap Fakta Ngeri
Jakarta, CNBC Indonesia - Anthropic akhir-akhir ini kerap menjadi 'langganan' headline berita. Pemasok 'senjata canggih' berupa tool kecerdasan buatan (AI) untuk militer AS itu jadi sorotan setelah berani melawan pemerintahan Amerika Serikat (AS).
Alhasil, Anthropic 'ditendang' dan dimasukkan ke daftar risiko rantai pasokan. Tak berhenti sampai di situ, Anthropic kembali menjadi sorotan setelah meluncurkan model terbaru bernama Mythos.
Banyak negara langsung waswas dengan kecanggihan Mythos yang dikatakan bisa mengetahui kerentanan sistem secara cepat, sehingga memungkinkan eksploitasi dari oknum penjahat siber.
Peringatan Keras, Dunia Dalam Bahaya
Terbaru, Anthropic meminta perusahaan-perusahaan AI besar untuk menunda pengembangan AI lebih lanjut. Anthropic memperingatkan petaka besar yang bisa dihadapi dunia.
Menurut perusahaan, teknologi AI berkembang terlalu cepat. Jika diteruskan, bisa jadi AI akan meningkat lebih cepat ketimbang kemampua masyarakat untuk menanggulangi dampak risikonya, dikutip dari Reuters, Senin (8/6/2026).
Pencipta Claude mengatakan bahwa kemampuan AI untuk menyelesaikan tugas sendiri telah berlipat ganda kira-kira setiap empat bulan dan sedang menuju "peningkatan diri rekursif", yaitu titik di mana teknologi dapat berkembang tanpa campur tangan manusia.
"Ketika sistem [AI] sudah mampu membangun penerusnya secara penuh, cara kita mengamankan mereka, mengawasi mereka, dan membentuk perilaku mereka jadi jauh lebih penting," kata Anthropic dalam unggahan blog-nya.
Menurut perusahaan, penundaan dalam mengembangkan AI akan memungkinkan masyarakat lebih siap menghadapi implikasi yang lebih besar di masa depan.
"Kita belum sampai di sana, dan peningkatan diri AI secara rekursif bukanlah sesuatu yang pasti. Tetapi hal itu bisa terjadi lebih cepat daripada yang diperkirakan oleh sebagian besar institusi," tulis salah satu pendiri Anthropic, Jack Clark, dan pimpinan Anthropic Institute, Marina Favaro, dalam unggahan tersebut.
Kekhawatiran bahwa sistem AI canggih dapat lepas dari kendali manusia dan menyebabkan kerusakan sosial telah meningkat seiring dengan makin canggihnya teknologi ini.
Model Mythos milik Anthropic sendiri telah mengguncang berbagai industri termasuk perbankan dan software pada awal tahun ini dengan kemampuannya untuk menemukan kerentanan dalam kode yang ada.
Sayangnya, regulasi yang ada saat ini masih sangat lambat, terutama di AS sebagai 'rumah' bagi raksasa teknologi pengembang AI terkemuka.
Perintah eksekutif pemerintahan Trump awal pekan ini menempatkan tanggung jawab pada perusahaan itu sendiri, meminta mereka untuk secara sukarela menyerahkan model mereka yang paling mumpuni untuk pengujian keamanan siber pemerintah sebelum dirilis ke publik.
Para peneliti AI juga telah mendesak jeda sebelumnya tetapi kurang berhasil. Elon Musk, pemilik laboratorium AI xAI, termasuk di antara pendukung dorongan tahun 2023 oleh lembaga nirlaba Future of Life Institute untuk menghentikan pengembangan AI selama enam bulan untuk memberi waktu bagi pengamanan.
Anthropic telah lama memposisikan dirinya sebagai laboratorium AI yang berfokus pada keamanan. Awal tahun ini, mereka menolak untuk mengizinkan militer AS menggunakan model mereka untuk pengawasan domestik dan senjata otonom sepenuhnya, yang memicu reaksi keras dari pemerintah yang memasukkannya ke dalam daftar hitam keamanan nasional, yang akan berlaku pada akhir tahun 2026.
Namun demikian, Anthropic terus merilis model yang makin canggih dan pada bulan Februari, mencabut janji keamanan utama, dengan mengatakan bahwa mereka tidak akan lagi menahan AI yang berpotensi berbahaya jika para pesaing mendekati kemampuan yang setara.
Baru-baru ini, perusahaan ini dinilai sebesar US$965 miliar dalam putaran pendanaan besar-besaran dan secara rahasia mengajukan penawaran umum perdana (IPO) di AS. Hal ini menempatkannya di depan pesaingnya, OpenAI, baik dalam hal valuasi maupun persaingan untuk mendapatkan pendanaan penting.
(fab/fab) Add
as a preferred
source on Google [Gambas:Video CNBC]