Awas AI Belajar Membunuh Manusia, Ini Peringatan Eks CEO Google

Jakarta, CNBC Indonesia - Mantan CEO Google memberikan peringatan seram soal AI. Kecerdasan buatan disebut sangat rentan dimanipulasi, bahkan bisa diajarkan untuk membunuh.

Eric Chmidt, eks CEO Google selama 10 tahun dari 2001 hingga 2011, menyatakan AI bisa melakukan banyak hal jahat.

"Apakah ada potensi timbul masalah akibat AI? Tentu saja. Ada bukti bahwa Anda bisa menggunakan model tertentu, tertutup atau terbuka, kemudian bisa diretas untuk menghapus pagar keamanannya sehingga AI itu bisa belajar apa saja. Contoh paling buru, AI bisa diajari cara membunuh seseorang," kata Schmidt.

Ia membenarkan bahwa perusahaan teknologi menerapkan berbagai metode untuk mencegah AI diajarkan melakukan kejahatan. Namun, batasan itu juga punya keterbatasan.

Pilihan Redaksi Misteri Bumi Hitam Terungkap, Ahli Happy Temukan Cara Selamat Kiamat PT Baru Buka Dikasih Modal Rp 5 Trilliun, Isinya Gak Kaleng-Kaleng ChatGPT Minggir, Aplikasi Ini Baru Rilis 5 Hari Sudah 1 Juta Download

"Semua perusahaan besar membuat agar model AI tidak bisa menjawab pertanyaan [jahat] itu. Keputusan yang baik. Semua melakukan ini. Mereka melakukannya dengan sangat baik, untuk alasan yang benar. Namun, ada bukti bahwa ini bisa diputarbalikkan [reverse-engineered]. Contohnya banyak sekali," kata Schmidt.

CNBC International menyatakan sistem AI sangat rentan diserang dengan metode jailbreaking atau injeksi prompt. Metode injeksi prompt adalah modus hacker menyembunyikan instruksi jahat dalam input pengguna atau data eksternal. Tujuannya adalah menipu AI agar mereka menjalankan perintah yang seharusnya dilarang.

Adapun, jailbreaking adalah modus lewat manipulasi respons AI sehingga platform tersebut tidak mengacuhkan aturan keselamatan sehingga memproduksi konten berbahaya.

Misalnya, beberapa bulan setelah peluncuran ChatGPT oleh OpenAI, hacker menemukan cara untuk menghindari pagar keamanannya. Caranya adalah menciptakan "kembaran" ChatGPT yang diberi nama DAN yaitu "do anything now" atau "lakukan apa saja sekarang juga." DAN kemudian memberikan jawaban tentang cara melakukan aktivitas ilegal hingga membeberkan hal positif yang dimiliki oleh Adolf Hitler.

(dem/dem)
[Gambas:Video CNBC]
Next Article Video: Pemerintah Susun Peta Jalan AI, Potensi Lokal Bakal Terangkat