Ketika AI Mulai Mengambil Keputusan Bisnis: Siapa Bertanggung Jawab?
Catatan: Artikel ini merupakan opini pribadi penulis dan tidak mencerminkan pandangan Redaksi CNBCIndonesia.com
Artificial Intelligence (AI) kini tidak lagi hanya digunakan untuk membuat rangkuman, menjawab pertanyaan, atau mengotomatisasi pekerjaan administratif. Di banyak perusahaan, AI mulai digunakan untuk membaca tren pasar, memetakan risiko, mendeteksi anomali transaksi, hingga memberi rekomendasi bagi pengambilan keputusan bisnis.
Kemampuan ini tentu menggiurkan. AI dapat mengolah data dalam jumlah besar dalam waktu singkat, menemukan pola yang sulit ditangkap manusia, dan menawarkan proyeksi yang terlihat lebih objektif.
Namun, ketika rekomendasi AI ternyata keliru dan perusahaan mengalami kerugian, pertanyaan penting langsung muncul: siapa yang harus bertanggung jawab?
Apakah penyedia teknologi yang harus menanggung akibatnya? Apakah algoritma dapat dianggap sebagai pihak yang salah? Ataukah tanggung jawab tetap berada pada pihak yang memutuskan untuk menggunakan hasil analisis tersebut?
Di titik inilah persoalan hukumnya dimulai.
AI Mulai Masuk ke Ruang Direksi
Penggunaan AI dalam korporasi bukan lagi hal futuristik. Jika dahulu direksi mengandalkan laporan konsultan, analis pasar, atau penasihat keuangan, kini sebagian proses tersebut mulai didukung sistem berbasis AI.
Warner Bros. Pictures International, misalnya, pernah bekerja sama dengan Cinelytic Inc. untuk memanfaatkan AI dalam penilaian konten dan talenta sebagai bagian dari strategi perilisan film. Di Indonesia, AI juga mulai digunakan di sektor perbankan. PT Bank Danamon Tbk mengintegrasikan SAP Business AI dalam pengelolaan sumber daya manusia untuk mendukung efisiensi proses kerja dan pengambilan keputusan.
Contoh tersebut menunjukkan bahwa AI mulai bergerak dari fungsi pendukung ke fungsi yang lebih strategis. Ia tidak lagi hanya membantu pekerjaan teknis, tetapi ikut membentuk dasar pertimbangan bisnis.
Masalahnya, AI tidak selalu benar. Rekomendasi AI dapat keliru karena data yang tidak lengkap, bias dalam data, kesalahan model, atau kegagalan sistem membaca konteks. Ketika rekomendasi itu menjadi dasar keputusan bisnis, risikonya tidak lagi semata-mata teknis. Risiko tersebut dapat berubah menjadi kerugian finansial, persoalan hukum, hingga ancaman reputasi bagi perusahaan.
AI Bukan Subjek Hukum
Secanggih apa pun kemampuannya, AI belum dapat diposisikan sebagai subjek hukum.
Dalam hukum, subjek hukum adalah pihak yang memiliki hak dan kewajiban, dapat melakukan perbuatan hukum, dapat digugat, serta dapat dimintai pertanggungjawaban. Manusia merupakan subjek hukum. Perseroan terbatas juga merupakan subjek hukum (badan hukum) karena dapat memiliki harta, hak, kewajiban, dan tanggung jawab.
AI tidak berada dalam posisi tersebut. AI tidak dapat digugat secara mandiri, tidak dapat diminta membayar ganti rugi, dan tidak dapat dibebani kewajiban hukum layaknya direksi, komisaris, atau perusahaan. Karena itu, AI lebih tepat dipandang sebagai instrumen atau alat bantu.
Dalam konteks korporasi, kedudukan AI serupa dengan laporan konsultan, rekomendasi ahli, analisis pasar, atau sistem pendukung keputusan lainnya. AI dapat memberi masukan, tetapi tidak dapat memikul akibat hukum dari keputusan yang diambil berdasarkan masukan tersebut.
Karena itu, penggunaan AI tidak serta-merta memindahkan tanggung jawab kepada mesin.
Business Judgment Rule Bukan Kartu Bebas Tanggung Jawab
Dalam hukum perusahaan Indonesia, direksi pada dasarnya dapat memperoleh perlindungan melalui doktrin Business Judgment Rule. Doktrin ini tercermin dalam Pasal 97 ayat (5) Undang-Undang Nomor 40 Tahun 2007 tentang Perseroan Terbatas.
Direksi dapat dibebaskan dari tanggung jawab atas kerugian perseroan apabila dapat membuktikan bahwa:
1. kerugian tersebut bukan karena kesalahan atau kelalaiannya
2. pengurusan dilakukan dengan itikad baik dan penuh kehati-hatian
3. tidak terdapat benturan kepentingan; dan 4. direksi telah mengambil tindakan untuk mencegah timbul atau berlanjutnya kerugian.
Doktrin ini penting karena tidak semua keputusan bisnis yang berakhir rugi otomatis merupakan kesalahan direksi. Dunia usaha selalu mengandung risiko. Keputusan yang telah diambil secara patut pun dapat menghasilkan kerugian akibat kondisi pasar, perubahan ekonomi, atau faktor eksternal.
Namun, penggunaan AI tidak otomatis membuat direksi dapat berlindung di balik Business Judgment Rule.
Direksi tidak cukup hanya mengatakan bahwa keputusan dibuat berdasarkan hasil analisis AI. Yang akan dinilai adalah proses sebelum keputusan itu diambil. Apakah data yang digunakan dapat dipercaya? Apakah rekomendasi AI diuji kembali? Apakah direksi memahami batasan sistem tersebut? Apakah ada proses verifikasi sebelum keputusan dijalankan?Â
Jika direksi menerima rekomendasi AI secara mentah tanpa penilaian kritis, sulit untuk menyatakan bahwa keputusan tersebut diambil dengan kehati-hatian yang memadai.
AI dapat memperkuat pengambilan keputusan, tetapi tidak dapat menggantikan kewajiban kehati-hatian.
Mengapa AI Governance Penting
Karena itu, perusahaan tidak cukup hanya mengadopsi AI. Perusahaan juga perlu membangun tata kelola penggunaan AI atau AI governance.
AI governance dibutuhkan agar teknologi tidak berubah menjadi sumber risiko baru. Perusahaan perlu menentukan siapa yang bertanggung jawab atas penggunaan AI, bagaimana kualitas data dijaga, keputusan apa yang boleh dipengaruhi AI, serta kapan hasil AI wajib ditinjau ulang oleh manusia.
Setidaknya ada empat prinsip yang perlu dijaga.
Pertama, harus ada penanggung jawab yang jelas. AI tidak boleh menjadi ruang abu-abu di mana banyak pihak menggunakan rekomendasinya, tetapi tidak ada pihak yang bertanggung jawab ketika hasilnya keliru.
Kedua, kualitas data harus diperhatikan. AI hanya sebaik data yang digunakan. Data yang bias, tidak akurat, atau tidak relevan dapat menghasilkan keputusan yang menyesatkan.
Ketiga, perusahaan perlu menjaga transparansi. Untuk keputusan yang berdampak besar terhadap keuangan, konsumen, tenaga kerja, atau pemegang saham, perusahaan seharusnya dapat menjelaskan dasar pengambilan keputusan, termasuk sejauh mana AI berperan di dalamnya.
Keempat, prinsip human oversight harus tetap dijaga. AI boleh memberi rekomendasi, tetapi keputusan strategis tetap perlu ditinjau dan disahkan oleh manusia yang memiliki kewenangan.
Prinsip tersebut sejalan dengan OECD AI Principles yang menekankan transparansi, keamanan, ketangguhan sistem, serta akuntabilitas dalam pengembangan dan penggunaan AI.
AI Boleh Membantu, Tanggung Jawab Tetap Ada
AI akan semakin menjadi bagian dari strategi bisnis. Teknologi ini dapat membantu perusahaan membaca risiko lebih cepat, mengolah data lebih luas, dan mengambil keputusan secara lebih efisien.
Namun, AI tidak menggantikan tanggung jawab hukum yang melekat pada organ perusahaan.
Ketika kerugian terjadi, pertanyaan hukumnya tidak berhenti pada "apa rekomendasi AI?" Pertanyaan berikutnya adalah: siapa yang menggunakan rekomendasi itu, bagaimana proses pengambilan keputusannya, dan apakah keputusan tersebut diambil secara hati-hati?
Karena itu, tantangan perusahaan bukan lagi apakah AI akan digunakan atau tidak. Tantangannya adalah memastikan AI digunakan dalam koridor tata kelola yang baik, transparan, dan akuntabel. AI dapat membaca data. AI dapat memberi rekomendasi.
AI dapat membantu mempercepat keputusan. Tetapi ketika keputusan itu membawa konsekuensi hukum dan kerugian bagi perusahaan, tanggung jawab tidak akan berhenti pada algoritma.
Referensi
1. Business Wire, "Data Driver Cinelytic Engages Warner Bros. Pictures International to Utilize Their Revolutionary AI-Driven Content and Talent Valuation System."
2. SAP SEA, "Bank Danamon Melakukan Inovasi Manajemen SDM dengan SAP Business AI."
3. Organisation for Economic Co-operation and Development, "Artificial Intelligence."
4. Undang-Undang Nomor 40 Tahun 2007 tentang Perseroan Terbatas.
(dpu/dpu) Add
as a preferred
source on Google