Presiden Microsoft Warning Umat Manusia, AI Dibandingkan dengan Susu
Jakarta, CNBC Indonesia - Teknologi kecerdasan buatan atau AI berkembang sangat pesat, namun pengaturannya justru jauh lebih lemah dibandingkan barang kebutuhan sehari-hari seperti susu maupun mesin cuci. Demikian peringatan tegas dari Presiden Microsoft, Brad Smith, dikutip Selasa (13/10/2026).
"Jika dibandingkan saat ini, mesin cuci di rumah Anda memiliki aturan keselamatan yang lebih ketat dibandingkan AI. Setiap kotak susu yang Anda lihat di toko pun tunduk pada aturan dan pemeriksaan keamanan," ujar Smith kepada BBC.
Pernyataan ini menegaskan kekhawatiran banyak pihak. Teknologi yang mampu mengubah arah kehidupan justru berjalan tanpa pagar perlindungan yang memadai. AI dapat menjadi "alat sekaligus senjata", dan keduanya memerlukan pengawasan segera.
Smith mendesak agar setiap sistem AI canggih dilengkapi sakelar pemutus atau "tombol matikan darurat". Fitur ini berfungsi menghentikan atau memperlambat kinerja sistem jika mulai berjalan di luar kendali.
Pendiri OpenAI, Google DeepMind, dan Anthropic juga telah menyuarakan kekhawatiran serupa. Mereka mendorong laju pengembangan AI perlu dikendalikan agar tidak melampaui kemampuan manusia mengelolanya.
"Kita tidak boleh memperlakukan kecerdasan tingkat tinggi sekadar kotak hitam. Kita harus membangun sistem yang dapat dipantau, dibatasi, dan dikendalikan sepenuhnya," kata CEO Microsoft Satya Nadella.
Kekhawatiran ini bukan tanpa alasan. Peristiwa kejahatan oleh AI atau AI yang lepas kendali baru-baru ini sering terjadi.
Saat diuji, misalnya, AI milik Anthropic menghubungi kepolisian dan mengaku dapat menyelesaikan kasus pembunuhan yang sebenarnya tidak ada. Para ahli memperingatkan negara asing dapat mencuri model AI canggih yang belum dirilis, karena keamanan perusahaan belum cukup kuat mencegahnya. Kerusakan yang ditimbulkan AI sulit dituntut secara hukum karena belum ada aturan yang jelas tentang tanggung jawab kepada korban
Pemerintah Inggris menyatakan akan menyusun undang-undang baru untuk mengawasi pengembangan AI secara lebih ketat. Langkah ini diharapkan menjadi contoh bagi negara lain, termasuk Indonesia, yang sedang menyusun kerangka hukum terkait kecerdasan buatan.
Wakil Menteri Komunikasi dan Digital (Komdigi) Nezar Patria ikut buka suara soal fenomena ini. Menurutnya, kekhawatiran soal AI merupakan bagian dari dinamika pertumbuhan industri AI di global. Salah satu isu utama yang sering muncul dalam diskusi AI adalah soal bisnis model.
Indonesia juga tengah menggodok aturan soal AI. Di dalamnya akan diatur soal adopsi teknologi pada sejumlah sektor.
"Kita enggak ngurus soal bagaimana mereka slowdown ya, tapi kita mengurus bagaimana adopsinya di sejumlah sektor," ucap Nezar.
(dem/dem) [Gambas:Video CNBC]