Foto Mesum Taylor Swift Buatan AI Viral, Begini Kronologinya

Jakarta, CNBC Indonesia - Taylor Swift menjadi korban kecerdasan buatan alias AI. Fotonya yang dibuat secara seksual dan eksplisit oleh AI telah beredar di X (sebelumnya Twitter) selama beberapa hari terakhir.

Salah satu postingan paling ramai di X bahkan telah dilihat oleh 45 juta kali, 24.000 repost, dan ratusan ribu like dan bookmark. Sebelum akhirnya akun terverifikasi yang membagikan gambar tersebut ditangguhkan karena melanggar kebijakan platform.

Meski akun yang menyebarkan sudah ditangguhkan banyak pengguna yang memposting ulang dan banjir gambar palsu baru bermunculan. Di beberapa wilayah, istilah "Taylor Swift AI" menjadi trending topik.

Penggemar Swift pun mengkritik X karena mengizinkan banyak postingan yang masih beredar. Sebagai tanggapan, para penggemar membanjiri tagar yang digunakan untuk mengedarkan gambar-gambar tersebut dengan pesan-pesan yang mempromosikan klip asli dari penampilan Swift untuk menyembunyikan gambar porno tersebut.

Laporan dari 404 Media menemukan bahwa gambar yang beredar mungkin berasal dari 4chan dan grup Telegram, tempat pengguna berbagi gambar eksplisit wanita yang dibuat dengan AI. Gambar-gambar tersebut seringkali dibuat dengan Microsoft Designer.

Pengguna di grup itu dilaporkan bercanda tentang bagaimana gambar Swift menjadi viral di X.

Menurut laporan 404 Media, gambar yang beredar bukanlah deepfake klasik dalam definisi sebenarnya, di mana jaringan generatif dilatih pada satu wajah dan menggantikan wajah lainnya dalam video target, tetapi dibuat menggunakan alat pembuat gambar AI yang tersedia secara komersial. Dengan kata lain, gambar-gambar tersebut dibuat secara utuh oleh AI, bukannya hanya menggunakan wajah Taylor Swift ke dalam gambar pornografi yang sudah ada.

"Saya tidak tahu apakah saya harus merasa tersanjung atau kesal karena beberapa foto yang dicuri dari Twitter ini adalah gen saya," kata salah satu pengguna di grup Telegram.

"Siapa di antara kalian yang mengambil sampah di sini dan melemparkannya ke Twitter," kata pengguna lain.

Grup Telegram merekomendasikan agar anggotanya menggunakan generator gambar AI Microsoft yang disebut Designer, dan pengguna sering kali membagikan petunjuk untuk membantu orang lain menghindari perlindungan yang diterapkan Microsoft.

Sebelum gambar AI Swift menjadi viral di Twitter, seorang pengguna di grup Telegram merekomendasikan agar anggotanya menggunakan frasa "Taylor 'penyanyi' Swift" untuk menghasilkan gambar. 404 Media tidak dapat membuat ulang jenis gambar yang diposting ke Twitter, namun menemukan bahwa Desainer Microsoft tidak akan menghasilkan gambar "Taylor Swift" melainkan menghasilkan gambar "Taylor 'penyanyi' Swift".

Pihak Microsoft angkat bicara mengenai kejadian ini. Perusahaan mengatakan, sedang menyelidiki laporan ini dan mengambil tindakan yang tepat untuk mengatasinya.

Microsoft menyebut bahwa Pedoman Perilaku mereka melarang penggunaan alat untuk pembuatan konten intim dewasa atau non-konsensual. Dan setiap upaya berulang kali untuk menghasilkan konten yang melanggar kebijakan perusahaan dapat mengakibatkan hilangnya akses ke layanan.

"Kami memiliki tim besar yang bekerja tentang pengembangan pagar pembatas dan sistem keselamatan lainnya sejalan dengan prinsip AI kami yang bertanggung jawab, termasuk pemfilteran konten, pemantauan operasional, dan deteksi penyalahgunaan untuk mengurangi penyalahgunaan sistem dan membantu menciptakan lingkungan yang lebih aman bagi pengguna," kata juru bicara Microsoft kepada 404 Media, dikutip Senin (29/1/2024).

Telegram tidak segera menanggapi permintaan komentar.