Skandal Aplikasi Pornografi Deepfake Guncang Kota Kecil Spanyol dan AS

MADRID, KOMPAS.com - Miriam al-Adib pertama kali mengetahui foto-foto tak senonoh putrinya ketika pulang dari perjalanan bisnis. 

"Ibu," kata putrinya. "Saya ingin menunjukkan sesuatu kepada ibu."

Gadis berusia 14 tahun itu membuka ponselnya dan menunjukkan gambar dirinya yang eksplisit. 

Baca juga: Beredar Ratusan Video Porno yang Dibuat lewat AI di Ekuador

"Sangat mengejutkan ketika Anda melihatnya," kata Adib, seorang dokter kandungan di kota Almendralejo, Spanyol selatan dan ibu dari empat anak perempuan. "Gambar itu benar-benar realistis ... Jika saya tidak mengenal tubuh putri saya, saya akan mengira gambar itu nyata."

Yang dimaksud dengan gambar itu adalah deepfake, salah satu dari lusinan gambar telanjang siswi sekolah di Almendralejo yang dibuat kecerdasan buatan (artificial intelligence/AI).

Deepfake itu telah beredar di kota itu selama berminggu-minggu di grup WhatsApp yang dibuat oleh anak-anak sekolah lainnya.

Laporan dari Guardian menyebut beberapa anak perempuan yang gambarnya disebarkan menolak untuk pergi ke sekolah, mengalami serangan panik, diperas, dan diintimidasi di depan umum. 

"Kekhawatiran saya adalah gambar-gambar ini telah sampai ke situs-situs pornografi yang masih belum kami ketahui," kata Adib.

Jaksa penuntut sedang mempertimbangkan dakwaan terhadap beberapa anak, yang membuat gambar-gambar tersebut menggunakan aplikasi yang diunduh dari internet. 

Namun mereka tidak dapat mengidentifikasi orang-orang yang mengembangkan aplikasi tersebut, yang menurut para jaksa berbasis di suatu tempat di Eropa timur.

Baca juga: URL di Kemasan Mengarah ke Situs Porno, Snack Anak-anak Inggris Ditarik dari Pasaran

Insiden di Spanyol ini menjadi berita global tahun lalu dan menjadikan Almendralejo, sebuah kota kecil dengan gereja-gereja tua di dekat perbatasan Portugis bergelojak.

Serangkaian gambar ini seperti peringatan dari masa depan, dimana perangkat AI memungkinkan siapa pun untuk menghasilkan gambar yang sangat realistis dengan beberapa kali klik.

Namun, meskipun deepfake dari bintang pop seperti Taylor Swift telah menarik banyak perhatian, gambar-gambar tersebut sepertinya jadi puncak gunung es dari gambar-gambar non-konsensual yang berkembang di internet dan tidak dapat dihentikan polisi.

Ribuan mil jauhnya di sekolah menengah atas Westfield di New Jersey, AS, sebuah kasus yang sangat mirip terjadi. Banyak anak perempuan yang menjadi sasaran gambar-gambar eksplisit yang dibuat para siswa di kelas mereka. 

Insiden di New Jersey ini telah memicu gugatan perdata dan membantu mendorong upaya bipartisan di Kongres AS untuk melarang pembuatan dan penyebaran gambar deepfake yang tidak sesuai dengan persetujuan.

Yang menjadi pusat dari kedua insiden di Spanyol dan New Jersey adalah aplikasi yang sama, yaitu ClothOff.

Baca juga: URL di Kemasan Mengarah ke Situs Porno, Snack Anak-anak Inggris Ditarik dari Pasaran

Apa Itu ClothOff?

Dalam setahun sejak aplikasi ini diluncurkan, orang-orang yang menjalankan ClothOff dengan hati-hati menjaga anonimitas mereka, mendistorsi identitas mereka secara digital untuk menjawab pertanyaan media.

Dalam satu kasus, mereka menggunakan kecerdasan buatan (AI) untuk membuat seseorang yang sepenuhnya palsu yang mereka klaim sebagai CEO mereka.

Namun, sebuah investigasi selama enam bulan, yang dilakukan untuk serial podcast Guardian yang berjudul Black Box, mengungkap nama-nama beberapa orang yang pernah bekerja untuk ClothOff atau yang menurut investigasi terkait dengan aplikasi tersebut.

Jejak mereka mengarah ke Belarus dan Rusia, melewati bisnis yang terdaftar di Eropa dan perusahaan samaran yang berbasis di jantung kota London.

ClothOff, yang situs webnya menerima lebih dari 4 juta kunjungan setiap bulannya, mengundang pengguna untuk, seperti slogan situsnya, membuka pakaian siapa pun menggunakan AI.

Aplikasi ini dapat diakses melalui ponsel pintar dengan mengeklik tombol yang mengonfirmasi bahwa pengguna berusia di atas 18 tahun, dan mengenakan biaya sekitar 8,50 poundsterling untuk 25 kredit.

Baca juga: Mengira Logo Baru Twitter X sebagai Aplikasi Porno, Ayah di India Pukuli Anaknya

Kredit tersebut digunakan untuk mengunggah foto-foto wanita atau gadis mana pun dan mengembalikan gambar yang sama dalam keadaan tanpa busana.