AI Melakukan Operasi Bedah Mandiri Tanpa Campur Tangan Manusia
Jakarta, CNBC Indonesia - Untuk pertama kalinya, agen AI merencanakan operasi terapi gen, menentukan titik sasaran di otak, dan menjalankan prosedur pembedahan pada hewan hidup, tanpa keputusan apa pun dari manusia. Namun di tengah proses, sistem itu sendiri menolak melanjutkan pekerjaan karena mendeteksi kesalahan kalibrasi, dikutip Senin (2/11/2026).
Toms Hardware melaporkan peneliti dari startup Exin Therapeutics dan Universitas Oxford memberikan daftar 19 pilihan terapi gen kepada agen AI yang bekerja berdasarkan model Claude Sonnet 5 milik Anthropic, serta akses ke perangkat bedah yang dikendalikan mesin. Satu-satunya perintah yang diberikan kepada agen AI adalah untuk mengurangi serangan kejang pada tikus lab.
Sistem AI itu sendiri yang kemudian menganalisis asal-usul epilepsi, memilih terapi yang dianggap paling tepat, menentukan bagian otak yang akan disuntik, serta menghitung koordinat titik penyuntikan berdasarkan informasi dari dari tiga makalah ilmiah berbeda. Ia juga menetapkan dosis obat, kecepatan penyuntikan, serta jeda waktu yang diperlukan, semuanya tanpa campur tangan manusia.
Sebelumnya, robot bedah memang sudah ada, tetapi manusia yang selalu menentukan apa yang akan dilakukan. Kali ini, AI memilih sekaligus melaksanakan.
Prosedur dimulai. Sistem memantau area operasi lewat kamera, melaporkan proses penyuntikan, dan memastikan tidak ada pendarahan. Satu-satunya tindakan yang dilakukan oleh manusia adalah prosedur crainotomy, yaitu bedah untuk membuka tengkorak untuk akses langsung ke otak.
Namun di tengah jalan, koneksi terputus sesaat. Setelah tersambung kembali, AI mendeteksi bahwa posisi sasaran yang dihitung berada di luar jangkauan gerak alat fisik.
Meskipun peneliti mencoba menyesuaikan ulang kalibrasi, sistem tetap menolak melanjutkan. Ia tidak mau melampaui batas keselamatan yang telah ditetapkan. Peneliti bahkan tidak dapat membujuknya meskipun hewan tersebut sudah dalam keadaan dibius di meja operasi. Akhirnya, tim peneliti harus memperbaiki kode sistem secara manual sebelum prosedur dapat diselesaikan.
Kejadian ini sekaligus mengungkapkan hal menarik. Model yang lebih canggih, Claude Opus 5.5 dan Opus 5, justru menolak melakukan prosedur ini sejak awal. Keduanya menyatakan tidak dapat menjamin penyelesaian operasi, dan berhenti di tengah dengan jarum yang masih tertanam di otak hewan akan lebih berbahaya daripada tidak memulainya sama sekali. Hanya Claude Sonnet 5 yang bersedia menjalankan dari awal hingga akhir.
Tikus tersebut akhirnya pulih dengan baik setelah prosedur selesai. Namun pengalaman ini mengingatkan pada masalah yang mendasar ketika sistem AI diberi wewenang penuh, bagaimana jika keputusannya berbeda dengan keinginan manusia?
"Ini pengalaman yang membuat frustrasi sekaligus membuka mata. Kita belum sepenuhnya memahami sejauh mana kita akan bergantung pada sistem semacam ini, dan apa yang terjadi ketika mereka berkata 'tidak' di saat yang paling mendesak," tulis Gabriel Ocana-Santero, kepada Decoder.
(dem/dem) [Gambas:Video CNBC]