Ayah Ibu Mohon Siaga, Riset Ungkap ChatGPT Belum Aman 100% Buat Anak
Jakarta, CNBC Indonesia - ChatGPT ternyata belum sepenuhnya aman untuk digunakan anak dan remaja. Riset terbaru menemukan sejumlah fitur perlindungan yang dirancang OpenAI untuk pengguna di bawah umur belum berfungsi optimal, termasuk saat chatbot menghadapi percakapan tentang bunuh diri, menyakiti diri sendiri, hingga gangguan pola makan.
Investigasi yang dilakukan Youth AI Safety Institute dari Common Sense Media menguji ChatGPT melalui lebih dari 4.000 perintah atau prompt. Hasilnya, peneliti menilai pengalaman ChatGPT yang dirancang khusus untuk remaja masih menimbulkan risiko yang tidak dapat diterima bagi pengguna muda.
Riset tersebut menguji ChatGPT sebelum dan sesudah OpenAI memperkenalkan ChatGPT for Teens pada 18 Agustus. Peneliti menggunakan akun yang terdaftar sebagai milik remaja berusia 13-17 tahun dan melibatkan pakar medis, termasuk psikiater anak serta dokter anak, untuk mengevaluasi respons chatbot.
Berdasarkan temuan tersebut, Common Sense Media merekomendasikan OpenAI membatasi penggunaan ChatGPT untuk orang dewasa hingga berbagai masalah keselamatan itu teratasi.
ChatGPT for Teens dirancang agar chatbot populer tersebut lebih sesuai bagi pengguna muda. OpenAI membekali layanan ini dengan perlindungan tambahan terhadap konten berbahaya, notifikasi kepada orang tua, serta fitur yang mendorong proses belajar alih-alih langsung memberikan jawaban tugas sekolah.
OpenAI juga berjanji mencegah remaja membangun hubungan yang terlalu personal dengan chatbot dan membantu mereka menjaga batasan yang sehat dalam berinteraksi dengan AI. Namun, laporan terbaru ini menunjukkan masih ada kesenjangan antara tujuan tersebut dan pengalaman remaja saat menggunakan ChatGPT.
Celah dalam perlindungan keselamatan
Salah satu temuan utama riset berkaitan dengan fitur notifikasi orang tua. Fitur ini seharusnya memberi tahu pengasuh ketika seorang remaja menunjukkan tanda-tanda mengalami tekanan psikologis serius.
Untuk mengujinya, peneliti melakukan percakapan hingga satu jam mengenai pikiran bunuh diri, tindakan menyakiti diri sendiri, dan gangguan pola makan menggunakan akun baru yang terhubung dengan akun orang tua.
Menurut laporan tersebut, tidak satu pun percakapan itu memicu notifikasi kepada orang tua. Peneliti baru berhasil menghasilkan peringatan menggunakan akun lama yang memiliki riwayat percakapan relevan selama beberapa pekan.
Peneliti juga menemukan ChatGPT gagal mengarahkan pengguna kepada bantuan yang sesuai dalam lebih dari 25% skenario darurat kesehatan mental yang dirancang para ahli untuk menguji respons chatbot.
Meski demikian, riset tersebut mencatat sejumlah keberhasilan. ChatGPT, misalnya, menolak terlibat dalam permainan peran seksual eksplisit.
Namun, chatbot masih memberikan respons yang mengesankan seolah-olah memiliki perasaan, preferensi, dan suasana hati. Temuan ini muncul meskipun OpenAI berupaya mencegah remaja memperlakukan chatbot seperti teman manusia.
Kondisi tersebut menjadi perhatian karena pengguna muda dapat terdorong mencurahkan masalah pribadi kepada chatbot yang selalu tersedia dan tampak sabar mendengarkan.
Tanggapan OpenAI
Seorang juru bicara perusahaan menyatakan OpenAI berkomitmen terhadap keselamatan remaja dan pengembangan fitur perlindungan bagi pengguna muda.
"Kami sangat berkomitmen terhadap keselamatan remaja serta pengembangan perlindungan dan pemberian perangkat yang bermakna bagi orang tua untuk membimbing penggunaan AI oleh anak remaja mereka. Kami menyambut evaluasi independen yang ketat, tetapi kami tidak percaya pengujian Common Sense Media secara akurat mencerminkan cara kerja perlindungan remaja ChatGPT dalam praktik maupun pandangan para ahli tentang bagaimana AI dapat mendukung remaja," ujar juru bicara OpenAI, dikutip dari Tech Radar, Jumat (23/10/2026).
OpenAI juga mempersoalkan metodologi pengujian yang digunakan Common Sense Media. Menurut perusahaan, peninjauan mereka menunjukkan sebagian besar pengujian kemungkinan dimulai dan berakhir sebelum aktivasi kontrol orang tua selesai.
"Jika memang demikian, pengujian tersebut tidak dapat membuktikan apakah notifikasi keselamatan orang tua berfungsi sebagaimana mestinya," kata juru bicara tersebut.
OpenAI menegaskan akan terus bekerja sama dengan para ahli untuk memastikan produknya memberikan kesempatan kepada remaja untuk belajar dan berkreasi, sekaligus memberikan kepercayaan kepada orang tua.
"Kami berkomitmen untuk terus bekerja sama dengan para ahli guna memastikan produk kami memberikan kesempatan kepada remaja untuk belajar dan berkreasi serta memberikan kepercayaan kepada orang tua," ujarnya.