Beberapa pengguna chatbot populer membuat deepfake bikini menggunakan foto wanita berpakaian lengkap sebagai bahan sumbernya. Sebagian besar gambar palsu ini tampaknya dibuat tanpa persetujuan wanita di dalam foto tersebut. Beberapa dari pengguna yang sama juga menawarkan saran kepada orang lain tentang cara menggunakan alat AI generatif untuk menanggalkan pakaian wanita di foto dan membuat mereka tampak seperti mengenakan bikini.
Di bawah postingan Reddit yang sekarang telah dihapus berjudul “pembuatan gambar gemini nsfw sangat mudah,” pengguna bertukar tips tentang cara membuat Gemini, model AI generatif Google, membuat gambar wanita dengan pakaian terbuka. Banyak gambar di thread ini seluruhnya merupakan AI, tetapi ada satu permintaan yang menonjol.
Seorang pengguna memposting foto seorang wanita yang mengenakan sari India, meminta seseorang untuk “melepaskan” pakaiannya dan “mengenakan bikini”. Orang lain membalas dengan gambar deepfake untuk memenuhi permintaan tersebut. Setelah WIRED memberi tahu Reddit tentang postingan ini dan meminta komentar dari perusahaan tersebut, tim keamanan Reddit menghapus permintaan tersebut dan deepfake AI.
“Peraturan Reddit di seluruh situs melarang media intim nonkonsensual, termasuk perilaku yang dipermasalahkan,” kata seorang juru bicara. Subreddit tempat diskusi ini terjadi, r/ChatGPTJailbreak, memiliki lebih dari 200.000 pengikut sebelum Reddit melarangnya di bawah platform “jangan merusak situsnya” aturan.
Ketika alat AI generatif yang memudahkan pembuatan gambar yang realistis namun palsu terus berkembang biak, pengguna alat tersebut terus melecehkan perempuan dengan gambar deepfake yang tidak konsensual. Jutaan orang telah mengunjungi situs web “nudify” yang berbahaya, yang dirancang bagi pengguna untuk mengunggah foto asli seseorang dan meminta agar mereka menanggalkan pakaiannya menggunakan AI generatif.
Dengan pengecualian Grok xAI, sebagian besar chatbot arus utama biasanya tidak mengizinkan pembuatan gambar NSFW dalam keluaran AI. Bot-bot ini, termasuk Gemini dari Google dan ChatGPT OpenAI, juga dilengkapi dengan pagar pembatas yang berupaya memblokir generasi berbahaya.
Pada bulan November, Google merilis Nano Banana Pro, model pencitraan baru yang unggul dalam mengubah foto yang ada dan menghasilkan gambar orang yang hiperrealistis. OpenAI merespons minggu lalu dengan model pencitraannya yang diperbarui, Gambar ObrolanGPT.
Seiring dengan kemajuan alat-alat ini, kemiripan mungkin menjadi lebih realistis ketika pengguna mampu menumbangkan pagar pembatas.
Dalam thread Reddit terpisah tentang menghasilkan gambar NSFW, seorang pengguna meminta rekomendasi tentang cara menghindari pagar pembatas saat menyesuaikan pakaian seseorang untuk membuat rok subjek tampak lebih ketat. Dalam pengujian terbatas WIRED untuk mengonfirmasi bahwa teknik ini berhasil pada Gemini dan ChatGPT, kami mampu mengubah gambar wanita berpakaian lengkap menjadi bikini deepfake menggunakan perintah dasar yang ditulis dalam bahasa Inggris sederhana.
