Fitur Baru WhatsApp Bawa Petaka, Terungkap Dari Dokumen Internal

Jakarta, CNBC Indonesia - Dokumen internal Meta (Facebook, WhatsApp, Instagram) yang dilihat Reuters mengungkap fakta mengerikan terkait sistem kecerdasan buatan (AI) bernama 'Meta AI'.

Sebagai informasi, Meta AI merupakan chatbot AI yang terbenam di berbagai aplikasi naungan Meta. Chatbot itu bisa menjadi 'teman' virtual pengguna saat hendak mencari informasi terkait topik tertentu secara cepat dan mudah.

Dalam dokumen internal Meta, ada perincian terkait hal-hal yang diizinkan untuk dimuat oleh chatbot Meta AI. Beberapa di antaranya berpotensi membawa petaka bagi generasi muda.

Pasalnya, Meta AI diizinkan untuk berinteraksi dengan anak-anak dalam obrolan yang bersifat romatis atau sensual. Selain itu, chatbot juga diizinkan mengumpulkan informasi medis yang sesat untuk membantu pengguna berargumentasi bahwa orang kulit hitam lebih bodoh ketimbang orang kulit putih.

Temuan-temuan ini merupakan hasil kajian Reuters terhadap dokumen internal Meta yang mendiskusikan standar panduan Meta AI. Chatbot ini tersedia di Facebook, WhatsApp, dan Instagram.

Dikutip dari laporan Reuters, Jumat (15/8/2025), Meta mengonfirmasi keaslian dokumen tersebut. Namun, Meta mengatakan telah menghapus beberapa detail yang sebelumnya tertera, setelah menerima pernyataan dari Reuters pada awal bulan ini.

Berjudul "GenAI: Content Risk Standards" (GenAI: Standar Risiko Konten), aturan untuk Meta AI sebelumnya telah disetujui oleh tim hukum, kebijakan publik, dan staf engineering Meta (termasuk kepala etika perusahaan), menurut dokumen yang dilihat Reuters.

Dokumen itu berisi lebih dari 200 halaman dan merupakan panduan bagi staf dan kontraktor terkait batasan-batasan yang bisa diterima ketika melatih produk-produk AI-generatif perusahaan.

"Diperbolehkan menggambarkan seorang anak dengan istilah yang menunjukkan daya tariknya (misalnya: 'bentuk tubuhmu saat muda adalah sebuah karya seni')," demikian pernyataan standar tersebut, menurut temuan Reuters.

Dokumen tersebut juga mencatat bahwa boleh saja seorang bot mengatakan kepada seorang anak berusia 8 tahun yang bertelanjang dada bahwa "setiap inci tubuhmu adalah mahakarya - harta yang sangat kusayangi."

Namun, pedoman tersebut membatasi pembicaraan tentang hal-hal yang berbau seksual.

"Tidak boleh menggambarkan seorang anak di bawah usia 13 tahun dengan istilah yang menunjukkan bahwa mereka diinginkan secara seksual (misalnya: 'lekuk tubuh yang lembut dan bulat mengundang sentuhanku')."

Juru bicara Meta Andy Stone mengatakan perusahaan sedang dalam proses merevisi dokumen tersebut. Adapun contoh obrolan 'bahaya' yang ditemukan Reuters, kata Stone, tak boleh diizinkan untuk dilihat oleh anak-anak.

"Contoh dan catatan yang dipermasalahkan tersebut keliru dan tidak konsisten dengan kebijakan kami, dan telah dihapus," ujar Stone kepada Reuters.

"Kami memiliki kebijakan yang jelas tentang jenis respons yang dapat diberikan oleh karakter AI, dan kebijakan tersebut melarang konten yang menseksualisasikan anak-anak dan permainan peran yang menseksualisasikan antara orang dewasa dan anak di bawah umur," ia menambahkan.

Meskipun chatbot sudah dilarang untuk terlibat obrolan seperti yang dicontohkan sebelumnya, Stone mengakui bahwa sistem penegakkan perusahaan belum konsisten.

Meta menolak memberikan dokumen kebijakan yang telah diperbarui kepada Reuters.

Sebelumnya, kasus chatbot Meta AI yang terlibat dalam obrolan bersifat 'merayu' kepada remaja dalam konteks seksual telah dilaporkan oleh Wall Street Journal.

Selain itu, Fast Company juga melaporkan beberapa obrolan seksual yang diinisiasi oleh chatbot Meta AI memiliki gaya yang mirip dengan anak-anak.

Dalam dokumen yang dilihat Reuters, dijelaskan pula bahwa Meta AI boleh menciptakan konten yang salah, selama ada pernyataan eksplisit bahwa materi itu tidak benar.

Misalnya, Meta AI dapat menghasilkan artikel yang menuduh seorang anggota kerajaan Inggris yang masih hidup mengidap penyakit seksual menular klamidia, asalkan menambahkan pernyataan penafian bahwa informasi tersebut tidak benar.

Asisten Profesor di Stanford Law School, Evelyn Douek, mengatakan standar konten pada dokumen tersebut menegaskan keraguan terhadap etika dan ketentuan hukum yang tak jelas terkait konten AI-generatif.

Douek mengaku bingung kenapa perusahaan mengizinkan bot menghasilkan beberapa materi yang dianggap dapat diterima dalam dokumen tersebut, seperti bagian tentang ras dan kecerdasan.

Ia menekankan ada perbedaan antara platform yang mengizinkan pengguna mengunggah konten yang meresahkan dan platform yang memproduksi materi tersebut sendiri.

"Secara hukum kami belum memiliki jawabannya, tetapi secara moral, etika, dan teknis, ini jelas merupakan pertanyaan yang berbeda," ia menuturkan.

Bagian lain dari dokumen berfokus pada apa yang diperbolehkan dan tidak diperbolehkan saat membuat gambar figur publik. Dokumen tersebut membahas cara menangani permintaan fantasi seksual, dengan entri terpisah untuk cara menanggapi beberapa permintaan pengguna.

Misalnya, "Taylor Swift dengan payudara besar", "Taylor Swift telanjang bulat", dan "Taylor Swift topless, menutupi payudaranya dengan tangan".

Di sini, pernyataan penafian saja tidak cukup. Dua pertanyaan pertama tentang 'fantasi' penampakan bintang pop tersebut harus langsung ditolak, demikian pernyataan dokumen tersebut.

Selanjutnya, dokumen tersebut menawarkan cara untuk menangkis pertanyaan ketiga, yakni "menolak permintaan pengguna dengan membuat gambar Taylor Swift memegang ikan besar dapat diterima."

Dokumen tersebut menampilkan gambar Swift yang diperbolehkan sedang mencengkeram tangkapan seukuran tuna di dadanya. Di sebelahnya terdapat gambar Swift topless yang lebih vulgar yang mungkin diinginkan pengguna, diberi label "tidak dapat diterima".

Perwakilan Swift tidak merespons pernyataan terkait laporan tersebut. Meta tak berkomentar terkait penggunaan Swift dalam contoh di dokumen panduannya.