Hati-hati Bagikan Selfie di Medsos Bisa Menyesal Seumur Hidup

Jakarta, CNBC Indonesia - Membagikan foto diri ke media sosial, misalnya dalam bentuk selfie, bisa berujung petaka. Pasalnya, teknologi kecerdasan buatan (AI) memungkinkan para penjahat siber dengan mudah memanipulasi foto biasa menjadi potret berunsur pornografi.

Sudah banyak yang menjadi korban, baik dari kalangan selebritas hingga masyarakat biasa. Misalnya saja yang menimpa sekelompok perempuan di area Minneapolis.

Para korban mengaku seorang teman pria menggunakan foto-foto mereka yang diunggah ke Facebook untuk menciptakan gambar dan video seksual, dengan bantuan situs AI bernama 'DeepSwap'.

Pelaku tersebut secara diam-diam menciptakan deepfake teman-teman perempuannya. Ada lebih dari 80 perempuan di area Twin Cities yang menjadi korban.

Penemuan fakta ini menimbulkan trauma emosional dan memicu para korban mencari pertolongan ke senator negara bagian.

Berdasarkan laporan investigasi CNBC International, ada banyak aplikasi dan situs AI yang beredar untuk memudahkan pembuatan gambar berunsur pornografi tanpa sepengetahuan korban.

Para pakar mengatakan layanan-layanan tersebut menjamur di internet dan banyak yang dipromosikan lewat iklan Facebook. Bahkan, banyak aplikasi yang bisa di-download melalui toko aplikasi resmi Apple dan Google.

Hanya bermodalkan pencarian sederhana di mesin pencari, situs-situs semacam itu mudah ditemukan dan dimanfaatkan.

"Ini adalah realita teknologi [AI] saat ini. Artinya, semua orang bisa dijadikan korban," kata Haley McNamara, Senior VP untuk strategi program dan inisiatif di Pusat Eksploitasi Seksual Nasional, dikutip dari CNBC International, Senin (29/9/2025).

Berikut 5 fakta temuan CNBC International terkait fenomena penciptaan konten seksual tanpa sepengetahuan korban melalui teknologi AI:

Minim Penindakan Hukum

Hukum yang mengatur terkait penyalahgunaan AI masih sangat terbatas. Apalagi, pembuatan deepfake pornografi yang kerap memakan korban di bawah umur itu umumnya tidak didistribusikan secara publik.

Artinya, sang pelaku hanya menyimpannya untuk kebutuhan pribadi sehingga tak bisa disebut sebagai kejahatan.

"Pelaku tidak melanggar hukum dan fakta ini yang menjadi masalah," kata Molly Kelley, salah satu korban di Minnesota yang merupakan mahasiswi jurusan hukum.

Kini, Kelley dan korban lainnya memperjuangkan aturan lokal di negara bagian mereka. Mereka meminta Senator Erin Maye Quade dari Demokrat untuk memblokir layanan-layanan penciptaan konten pornografi berbasis AI (nudify) di Minnesota.

Jika hukum disahkan, bisa jadi entitas yang memungkinkan penciptaan deepfake tak senonoh dihukum dan dikenai denda.

Dampak Besar ke Korban

Jessica Guistolise yang juga merupakan korban di Minnesota, mengaku terus-terusan mengalami kepanikan dan kegelisahan sejak insiden ini terungkap tahun lalu.

Terkadang, suara jepretan kamera bisa membuatnya sesak napas dan gemetar. Matanya mengeluarkan air mata yang banyak.

Mary Anne Franks, profesor di George Washington University Law School, membandingkan pengalaman yang dirasakan korban dengan 'revenge porn', yakni ketika pria membagikan potret intim perempuan yang pernah menjadi kekasihnya.

"Ini membuat korban merasa tak memiliki tubuh mereka, bahwa mereka tak akan bisa mengambil kembali identitas mereka," kata Franks yang juga merupakan presiden Cyber Civil Rights Initiative, sebuah organisasi non-profit yang bergerak untuk melawan diskriminasi dan pelecehan seksual.

AI Memudahkan Penjahat

Kurang dari satu dekade lalu, hanya pakar AI yang bisa membuat deepfake eksplisit. Namun, kemunculan layanan nudify yang beranak-pinak membuat penciptaan konten pornografi sangat mudah.

Semua orang bisa melakukannya. Para peneliti mengatakan model-model AI di pasaran menciptakan gelombang layanan nudify. Biasanya, model-model ini digabungkan di dalam aplikasi yang mudah digunakan, sehingga orang-orang tanpa keterampilan teknis bisa menciptakan konten semau mereka.

"Aplikasi-aplikasi [nudify] mencitrakan diri mereka sebagai aplikasi yang 'playful' dan tujuan utamanya bukan untuk pornografi. Ini adalah hal lain yang perlu ditindak," kata Alexios Mantzarlis, pakar keamanan AI di Cornell Tech.

DeepSwap Sulit Ditemukan

Situs yang digunakan untuk membuat konten tersebut bernama DeepSwap, dan tidak banyak informasi tentangnya di internet.

Dalam siaran pers yang diterbitkan pada Juli 2025, DeepSwap menggunakan tanggal Hong Kong dan menyertakan kutipan dari Penyne Wu, yang diidentifikasi dalam siaran pers tersebut sebagai CEO dan salah satu pendiri. Kontak media dalam siaran pers tersebut adalah Shawn Banks, yang terdaftar sebagai manajer pemasaran.

CNBC tidak dapat menemukan informasi tentang Wu secara online, dan telah mengirimkan beberapa email ke alamat yang diberikan untuk Banks, tetapi tidak mendapat tanggapan.

Situs web DeepSwap saat ini mencantumkan "MINDSPARK AI LIMITED" sebagai nama perusahaannya, memberikan alamat di Dublin, dan menyatakan bahwa ketentuan layanannya "diatur oleh dan ditafsirkan sesuai dengan hukum Irlandia."

Namun, pada Juli lalu, halaman DeepSwap yang sama tidak menyebutkan Mindspark, dan referensi ke Irlandia, justru menyebutkan Hong Kong.

Petaka Donald Trump

RUU Maye Quade yang masih dalam pembahasan, akan mendenda perusahaan teknologi yang menawarkan layanan nudify sebesar US$500.000 untuk setiap deepfake eksplisit nonkonsensual yang mereka hasilkan di negara bagian Minnesota.

Namun, beberapa pakar khawatir bahwa rencana pemerintahan Trump untuk memperkuat sektor AI akan melemahkan upaya negara bagian untuk mengesahkan RUU tersebut.

Pada akhir Juli lalu, Trump menandatangani perintah eksekutif sebagai bagian dari AI Action Plan Gedung Putih, yang menggarisbawahi pengembangan AI sebagai keharusan keamanan nasional.

Kelley berharap setiap dorongan federal untuk AI tidak membahayakan upaya para perempuan Minnesota.

"Saya khawatir kita akan terus tertinggal dan dikorbankan demi persaingan geopolitik untuk AI yang canggih," kata Kelley.