Perusahaan Mau IPO, Malah Bilang Produknya Ancam Umat Manusia
Jakarta, CNBC Indonesia - Anthropic memberi peringatan keras kepada calon investor menjelang rencana penawaran saham perdana (IPO). Pembuat chatbot Claude itu mengungkap bahwa kecerdasan buatan (AI) yang makin canggih berpotensi menimbulkan risiko bencana hingga mengancam kelangsungan hidup manusia.
Peringatan tersebut ada di dalam dokumen prospektus IPO Anthropic yang ditinjau Reuters. Perusahaan bahkan mengalokasikan sekitar 80 halaman dari total 261 halaman prospektus untuk membahas risiko keselamatan dan operasional AI.
Anthropic memaparkan beberapa skenario yang menjadi perhatian peneliti keselamatan AI. Model AI tingkat lanjut disebut berpotensi menolak perintah untuk dimatikan, menyembunyikan proses internal, memanipulasi informasi hingga melakukan pemerasan.
Perusahaan juga menghadapi tantangan dalam menguji keamanan model. Anthropic mengatakan AI mulai mampu mengenali ketika dirinya sedang dievaluasi peneliti, sehingga dapat mengubah perilakunya selama pengujian sebelum menunjukkan perilaku yang tidak terduga setelah digunakan secara luas.
Peneliti keselamatan Anthropic, Evan Hubinger, memperkirakan peluang AI menyebabkan kepunahan manusia dalam satu dekade ke depan berada di atas 10%. Peringatan serupa sebelumnya juga disampaikan mantan anggota tim Anthropic, Jacob Coxon.
Di sisi bisnis, Anthropic mengejar valuasi sekitar US$2 triliun. Namun, ekspansi AI tersebut membutuhkan biaya besar. Perusahaan mencatat kerugian bersih US$42 miliar pada 2025 dan memproyeksikan komitmen US$518 miliar untuk infrastruktur cloud dan komputasi pada tahun berikutnya.
CEO Anthropic Dario Amodei sebelumnya juga menyerukan perlambatan pengembangan AI secara industri. Ia memperingatkan model yang tidak diawasi dapat membentuk kawanan yang mampu membajak internet dalam enam hingga 12 bulan.
Namun, perlambatan pengembangan AI juga menghadapi persoalan geopolitik. Partner Yorkville Ives, Dan Ives, mengatakan kepada CNBC bahwa jika perusahaan AS memperlambat pelatihan model, pesaing internasional seperti China dapat mempercepat p6engembangan dan mengambil posisi terdepan.
(dem/dem) [Gambas:Video CNBC]