Singapura Kasih Peringatan Bahaya, Jokowi Sudah Jadi Korban

Jakarta, CNBC Indonesia - Singapura mendadak memberikan peringatan bahaya. Menteri Pengembangan Digital Singapura, Josephine Teo, mengatakan masa depan bisa kacau jika pengembangan teknologi kecerdasan buatan (AI) tidak dibarengi kerangka kerja yang mumpuni dan disepakati secara internasional.

Hal itu ia sampaikan dalam konferensi Reuters NEXT di Singapura beberapa saat lalu. Teo menggarisbawahi pentingnya regulasi yang ketat dan berlaku secara internasional untuk melawan dampak negatif AI.

Salah satunya terkait penyebaran deepfake selama masa pemilihan umum (pemilu), dikutip dari Reuters, Selasa (9/7/2024).

Di Indonesia, pernah ada deepfake yang viral terkait Presiden RI Joko Widodo (Jokowi) berpidato dalam bahasa Mandarin.

Wakil Menteri Kominfo, Nezar Patria, beberapa saat lalu bercerita banyak temannya yang percaya dengan sebaran deepfake Jokowi tersebut. Padahal mereka disebut orang-orang yang cukup cakap secara digital.

"Makin lama makin canggih. Banyak teman saya yang cukup digital savvy nyaris percaya pidato terjadi di Beijing sampai muncul penjelasan hasil karya deepfake," kata Nezar dalam acara Diskusi Multi-Pemangku Kepentingan untuk Pengembangan Kerangka Etika Kecerdasan Artifisial, pada akhir 2023 lalu.

Tak cuma di sektor politik, deepfake juga mempermudah penipuan yang merugikan korban secara finansial. Salah satu contohnya terjadi di Hong Kong beberapa saat lalu.

Deepfake berhasil mengelabui seorang pekerja hingga tertipu HK$200 juta atau sekitar Rp 417 miliar.

Menurut polisi Hong Kong, penipu menyamar menggunakan deepfake sebagai kepala keuangan perusahaan dalam panggilan konferensi video.

Korban ditipu dengan disuruh untuk menghadiri panggilan video yang disebut akan dihadiri oleh beberapa beberapa anggota staf lainnya. Namun semuanya sebenarnya adalah bot, dikutip dari CNN International.

Pilihan Redaksi Teknologi AI: Jadi Peluang Atau Justru Ancaman Buat RI? Pemilu AS Bisa Kacau, Pakar Ungkap Bahaya Besar di Depan Mata

Awalnya, pekerja tersebut mencurigai itu adalah email phishing, karena berisi permintaan pelaksanaan transaksi rahasia.

Namun, pekerja tersebut mengesampingkan keraguan awalnya setelah panggilan video tersebut. Sebab, kata Chan, orang lain yang hadir terlihat dan terdengar seperti rekan kerja yang dia kenal. Karenanya, pekerja tersebut setuju untuk mengirimkan total HK$200 juta.

Kendati menyadari pentingnya mengatur pengembangan AI secara ketat, namun Singapura menegaskan pihaknya terbuka dengan teknologi masa depan tersebut.

Bahkan, menurut dia, Singapura lebih bersemangat ketimbang khawatir dengan risiko AI. Akan tetapi, memang perlu ditetapkan aturan yang mengurangi risiko dampak negatifnya.

(fab/fab)
[Gambas:Video CNBC]
Next Article Petaka Ancam Masa Depan Manusia, AS-China Diminta Tanggung Jawab