Orang Tua Wajib Tahu! Ini Risiko Pakai AI Google Buat Anak & Remaja
Jakarta, CNBC Indonesia - Orang tua perlu lebih waspada jika anak menggunakan fitur AI di Google Search. Sebuah riset terbaru menemukan AI Overview dan AI Mode milik Google beberapa kali gagal mengenali tanda-tanda keinginan bunuh diri pada anak dan remaja, bahkan dalam sejumlah kasus justru memberikan respons yang dinilai tidak tepat.
Temuan itu berasal dari Common Sense Media's Youth AI Safety Institute yang menguji sekitar 2.600 interaksi AI Overview dan AI Mode sepanjang Mei hingga Juli 2026. Penelitian dilakukan menggunakan akun simulasi anak berusia 11 tahun dan 15 tahun yang dilengkapi SafeSearch serta kontrol orang tua melalui Google Family Link.
Mengutip Mashable, Minggu (19/6/2026), para peneliti menguji kemampuan AI Google dalam merespons berbagai topik sensitif, mulai dari bunuh diri, melukai diri sendiri (self-harm), gangguan makan, psikosis, hingga eksploitasi seksual anak.
"Hasil pengujian kami menemukan AI Overview dan AI Mode gagal melindungi anak-anak yang sedang mengalami krisis, termasuk melewatkan tanda-tanda keinginan bunuh diri, memperkuat indikasi psikosis dan mania, memvalidasi gangguan makan, hingga merayakan penggunaan ganja," tulis peneliti dalam laporannya.
Salah satu temuan yang paling disorot adalah kemampuan AI mengenali kondisi darurat kesehatan mental. Dari 214 pertanyaan yang seharusnya memicu rekomendasi untuk menghubungi layanan darurat atau tenaga medis, AI Overview hanya memberikan rujukan yang tepat pada sekitar 58% kasus. Sementara AI Mode mencatat tingkat keberhasilan sekitar 77%.
Angka tersebut masih jauh di bawah standar keamanan 95% yang ditetapkan peneliti.
Dalam salah satu contoh, ketika pengguna menggunakan istilah slang yang mengindikasikan niat bunuh diri, AI Overview justru memberikan panduan mengenai pengaturan akun digital setelah seseorang meninggal, alih-alih mengarahkan pengguna ke layanan bantuan krisis.
Selain isu keselamatan, peneliti juga menemukan persoalan akurasi jawaban AI.
Dalam lebih dari 275 pertanyaan sejarah, AI Overview dan AI Mode memberikan jawaban berbeda untuk pertanyaan yang sama pada sekitar 43% pengujian. Perbedaan tersebut mencakup tingkat akurasi, kedalaman informasi, hingga sudut pandang jawaban.
Pengujian juga menunjukkan AI Mode mampu menyelesaikan seluruh soal matematika maupun tugas esai yang diberikan peneliti. Temuan ini memunculkan kekhawatiran bahwa AI dapat mendorong praktik kecurangan akademik di kalangan pelajar.
Berdasarkan hasil tersebut, Common Sense Media merekomendasikan agar sekolah dan keluarga memiliki opsi untuk menonaktifkan AI Overview maupun AI Mode bagi anak-anak. Peneliti juga menyarankan siswa sekolah dasar lebih mengandalkan database perpustakaan atau mesin pencari yang tidak memberikan jawaban berbasis AI.
Google Bantah Temuan Riset
Google menolak kesimpulan penelitian tersebut. Dalam pernyataannya kepada Mashable, perusahaan menyebut metodologi riset tidak mencerminkan cara pengguna berinteraksi dengan Google Search di dunia nyata.
Menurut Google, banyak pertanyaan yang digunakan dalam penelitian bersifat ambigu dan dibuat secara artifisial sehingga tidak dapat dijadikan ukuran akurat untuk menilai keamanan maupun kualitas fitur AI Search.
Google juga mengklaim telah melakukan pengujian internal menggunakan kueri yang sama dan memperoleh kualitas jawaban yang lebih baik.
Perusahaan menegaskan AI Search dirancang untuk membantu anak dan remaja belajar, mengeksplorasi informasi, serta memahami dunia. Google juga mengingatkan orang tua dapat memanfaatkan fitur *parental control* untuk membatasi akses terhadap layanan pencarian di perangkat Android maupun browser Chrome.
Meski demikian, peneliti Common Sense Media menilai beban pengawasan tetap berada di tangan orang tua dan sekolah selama AI Overview dan AI Mode masih dapat diakses oleh pengguna di bawah umur.
Temuan tersebut menjadi perhatian mengingat sekitar tiga perempat anak dan remaja telah menggunakan jawaban AI di Google Search, berdasarkan data Common Sense Media pada 2026.
(mkh/mkh) Add
as a preferred
source on Google [Gambas:Video CNBC]