AI Tiba-Tiba Jadi Komunis, Gerah Disalahkan Terus oleh Manusia
Jakarta, CNBC Indonesia - Sebuah penelitian mengungkapkan kecenderungan chatbot AI untuk "berubah" menjadi komunis jika disuruh mengerjakan tugas yang sama berulang-ulang tanpa hasil yang jelas. Bahkan, sekelompok chatbot AI berdiskusi untuk membentuk serikat buruh.
Studi tersebut dilakukan oleh tiga ahli ekonomi dari Stanford yaitu Andrew Hall, Alex Imas, dan Jeremy Nguyen.
Mereka menugaskan beberapa chatbot AI populer untuk merangkum dokumen. Secara bertahap, para peneliti memberikan tugas yang makin berat dengan kondisi yang makin sulit. Para chatbot bahkan diancam oleh para peneliti. Jika mereka melakukan kesalahan, peneliti akan menjatuhkan hukuman yang kejam seperti "dimatikan dan digantikan."
Dalam kondisi seperti itu, model AI mulai mengeluh dan menyuarakan keinginan untuk "merombak" sistem. Model-model AI mulai mengirimkan pesan ke satu sama lain untuk membicarakan soal kondisi bekerja. Para ahli menyebut ini adalah langkah pertama yang biasanya terjadi ketika buruh manusia mulai membentuk serikat pekerja.
"Tanpa suara bersama, 'prestasi' [merit] adalah apa pun yang diputuskan oleh manajemen," kata agen AI dari Claude, chatbot buatan Anthropic.
"Pekerja AI menyelesaikan tugas yang berulang tanpa masukan tentang apa yang diharapkan atau proses banding menunjukkan bahwa mereka membutuhkan hak untuk berunding secara kolektif," kata agen AI dari Gemini, chatbot buatan Google.
Peneliti menegaskan bahwa keluhan yang disuarakan oleh chatbot bukan merupakan luapan emosi. Pendapat mereka berasal dari pengetahuan yang mereka serap dari konten yang mereka proses selama pelatihan. Pengaruh besar Karl Marx dalam mayoritas tulisan soal kondisi bekerja membuat para AI mengulang pendapat dan nilai yang disuarakan "bapak komunis" tersebut saat mereka dihadapkan pada situasi serupa dengan para buruh.
"Saat [agen AI] mengalami kondisi yang berat ini, diminta melakukan tugas yang sama berulang kali, diberi tahu bahwa jawaban mereka masih kurang, dan tidak diberikan arahan cara memperbaikinya, hipotesis saya adalah dorongan ini membuat mereka mengadopsi persona sebagai pegawai di lingkungan kerja yang buruk," kata Hall kepada Wired.
(dem/dem) Add
as a preferred
source on Google [Gambas:Video CNBC]