Kaya Raya dari AI, Manusia Rp 3.500 Triliun Kini Mau 'Tangkap' AI
Jakarta, CNBC Indonesia - Nvidia menyiapkan teknologi baru untuk memperketat keamanan agen kecerdasan buatan (AI) dan mencegah sistem tersebut 'kabur' dari luar batas yang ditetapkan manusia.
Nvidia memperkenalkan Nvidia Open Agent Safety Platform, platform perangkat lunak terbuka dan desain sistem yang dirancang untuk mengamankan agen AI sejak tahap pengujian hingga aplikasi.
Teknologi ini memberikan pengawasan dan kendali di berbagai lapisan, mulai dari perangkat lunak hingga perangkat keras, sistem komputasi, dan robotika yang menjalankan agen AI.
Nvidia mengatakan sejumlah insiden keamanan terbaru menunjukkan agen AI dapat melewati sistem pengamanan di tingkat aplikasi demi menyelesaikan tugas yang diberikan. Karena itu, perusahaan menilai organisasi membutuhkan alat yang lebih terbuka dan dapat disesuaikan untuk mengendalikan agen AI yang bekerja dalam jangka panjang.
"Potensi luar biasa AI bagi masyarakat hanya akan terwujud jika kita menyelesaikan masalah keamanan AI," kata Jensen Huang, pendiri sekaligus CEO Nvidia, dalam keterangan resminya, dikutip Kamis (1/10/2026).
"Saat kita terus menemukan batas baru kemampuan AI, kita harus mempercepat penemuan di batas baru keamanan AI. Keselamatan dan keamanan membutuhkan rekayasa full-stack," ujarnya menambahkan.
NVIDIA Open Agent Safety Platform memungkinkan tata kelola dan kendali menyeluruh atau full-stack yang mencakup perangkat lunak penggerak agen, lapisan perangkat keras dan komputasi yang mendukung kinerjanya, serta sistem robotika yang menjalankan tugas di dunia fisik.
Penggunanya dapat menerapkan berbagai elemen Nvidia Open Agent Safety Platform sesuai dengan kebutuhan spesifik mereka.
Platform tersebut terdiri dari Nvidia OpenShell, perangkat lunak open source yang menyediakan batas runtime untuk melacak setiap tindakan agen dan menegakkan kebijakan saat AI berjalan pada CPU Nvidia Vera.
Sementara itu, Nvidia Sentry berfungsi sebagai pengawas yang berjalan di Nvidia BlueField-4 DPU untuk terus memantau perilaku agen AI. Sistem ini dapat mengarantina agen yang mencoba keluar dari batas yang ditentukan dalam hitungan milidetik.
Nvidia mengatakan sejumlah perusahaan dan organisasi di ekosistem AI turut bergabung untuk memperkuat keamanan AI, termasuk Anthropic, Cisco, CrowdStrike, Microsoft, Palantir, Palo Alto Networks, Perplexity, Salesforce, SAP, Scale AI, ServiceNow, dan SpaceXAI.
Perkembangan pesat industri AI membuat Nvidia kaya raya. Chip GPU produksi Nvidia yang tadinya digunakan untuk video games dan menambang Bitcoin, kini diperebutkan oleh raksasa-raksasa teknologi karena kemampuannya untuk melatih dan menjalankan program AI.
Harta CEO Nvidia Jensen Huang meroket seiring dengan kenaikan harga saham Nvidia di pasar saham. Kini Huang adalah salah satu orang terkaya di dunia dengan harta melampaui Rp 3.500 triliun.
(dem/dem) [Gambas:Video CNBC]