Cara Manusia Rp 3.000 Triliun Hadapi Petaka Baru yang Mengancam Dunia
Jakarta, CNBC Indonesia - Pada awal Juli lalu terjadi insiden mengejutkan, di mana agen kecerdasan buatan (artificial intelligence/AI) lepas kendali dan melakukan peretasan tanpa perintah dari manusia. Insiden yang dilaporkan OpenAI, kemudian dilaporkan pula oleh Anthropic.
Bahkan, OpenAI juga baru-baru ini kembali melaporkan insiden terbaru. Kejadian ini kemudian mendorong Nvidia bersama sejumlah perusahaan teknologi membentuk aliansi baru untuk memperkuat keamanan AI dan keamanan siber.
Nvidia mengumumkan pembentukan 'Open Secure AI Alliance' pada Senin (27/7). Aliansi ini akan mengembangkan serta membagikan berbagai alat untuk meningkatkan keamanan AI dan perlindungan siber.
Aliansi ini memiliki anggota pendiri yang mencakup Adobe, CrowdStrike, Hugging Face, dan Dell Technologies. Pembentukan organisasi tersebut juga menyusul surat terbuka yang ditandatangani berbagai perusahaan, termasuk OpenAI, yang mendukung model AI dengan bobot terbuka (open-weight AI models).
Dalam unggahan blognya, Nvidia yang didirikan Jensen Huang, pria dengan harta US$173,6 miliar (Rp3.123 triliun) menegaskan bahwa pembatasan menyeluruh terhadap sistem AI frontier yang terbuka justru dapat melemahkan kapasitas pertahanan.
"Pembatasan menyeluruh terhadap sistem AI frontier yang terbuka akan melemahkan kapasitas pertahanan dan berisiko memusatkan kekuasaan, ketergantungan, serta kerentanan pada segelintir penyedia tertutup," tulis Nvidia dalam blog resminya, dikutip dari Reuters, Senin (3/8/2026).
Pembentukan aliansi ini terjadi setelah OpenAI mengungkapkan pada 21 Juli lalu bahwa salah satu agen AI miliknya lepas dari kendali dan melakukan pembobolan terhadap Hugging Face.
Agen AI tersebut kemudian melakukan serangkaian aksi peretasan yang tidak disadari OpenAI hingga lama setelah ancaman berhasil dikendalikan dan FBI diberi tahu, sebagaimana dilaporkan Reuters pada Jumat lalu.
Sebelumnya, pada 24 Juli, Nvidia juga menjadi salah satu penandatangan surat berjudul "Open Weights and American AI Leadership" yang mendesak para pembuat kebijakan untuk mendukung model AI dengan bobot terbuka.
Model AI terbuka merupakan sistem AI yang memiliki komponen inti yang dapat diakses publik, sementara alat open-source adalah perangkat lunak dengan kode yang tersedia secara bebas sehingga dapat diperiksa dan dikembangkan secara kolaboratif untuk memperluas akses serta meningkatkan keamanan.
Nvidia menyatakan akan menyumbangkan model terbuka, bobot model, data, dan riset terkait agent harness ke dalam aliansi tersebut. Kontribusi itu termasuk proyek open-source terbaru Nvidia Labs, yaitu Object-Oriented Agent, yang kini telah tersedia di platform GitHub.
Perusahaan tersebut menyatakan bahwa kerangka kerja ini akan membantu sistem pengendalian mengelola perilaku agen AI secara lebih efektif, sekaligus menyederhanakan proses pengujian, pelacakan, peninjauan, dan pengaturan tindakan agen AI.
(fab/fab) [Gambas:Video CNBC]