Krisis deepfake
Musim panas 2024, terbongkar bahwa deepfake seksual perempuan, dari idol K-pop sampai pelajar dan guru biasa, beredar besar-besaran di grup Telegram. Dalam hitungan minggu, Korea langsung ganti undang-undang.
Semuanya dimulai dari liputan MBC tanggal 19 Agustus. Seorang lulusan kampus tahu dari DM Instagram orang asing kalau video porno palsu pakai wajahnya beredar di grup Telegram, lengkap dengan data pribadinya. Grup itu punya lebih dari seribu anggota dan korbannya dikelompokkan per sekitar 70 kampus. Grup itu sudah jalan sejak 2020.
Yang paling bikin merinding adalah modus "grup kenalan bersama". Orang dari daerah atau sekolah yang sama saling cocokkan kenalan sampai ketemu satu perempuan yang mereka semua kenal, lalu comot selfie-nya dari medsos dan masukkan ke AI tukar wajah. Ada grup khusus untuk satu target, dan gambarnya diperjualbelikan. Korbannya meluas dari mahasiswi ke siswi SMP dan SMA, guru, perawat, tentara perempuan, jurnalis, bahkan anggota keluarga. Banyak pelakunya masih remaja, dan itu yang bikin Korea benar-benar syok.
Angkanya terus naik. Satu serikat guru menerima 2.492 laporan hanya dalam dua hari survei. Per November, Kementerian Pendidikan mencatat 920 korban dari kalangan siswa dan staf, dan polisi sudah menetapkan 318 tersangka per awal September. Daftar dan peta "sekolah korban" viral di medsos, tapi isinya campur info yang belum dicek dan malah memicu kekhawatiran korban kena dampak lagi. BBC menyebutnya "darurat" deepfake di Korea Selatan.
Timing-nya juga aneh banget. Seminggu setelah laporan pertama, pendiri Telegram Pavel Durov ditangkap di Prancis. Telegram lama menolak kerja sama dengan penyidik dan di Korea sudah jadi sarang eksploitasi seksual sejak kasus Nth Room 2019. Di tahun yang sama juga meledak kasus grup chat selebriti, jadi Korea sebenarnya sudah sekali perang melawan kejahatan seksual digital. Begitu polisi Korea mulai menyelidiki Telegram atas dugaan membantu kejahatan, perusahaan itu minta maaf lewat email dan membuka jalur penghapusan konten. Desember, Telegram resmi umumkan kerja sama dengan regulator konten Korea.
Parlemen gerak cepat. Tanggal 26 September, revisi UU kejahatan seksual digital disahkan: sekarang bukan cuma bikin atau menyebar deepfake seksual yang dipidana, tapi juga menyimpan atau sekadar menonton. Sebelumnya celah terbesarnya, kalau nggak ada "niat menyebarkan", pelaku susah dijerat. Militer menyembunyikan foto-foto prajurit, Naver dan KakaoTalk mengumumkan jalur pelaporan, dan satu jaringan pizza mencetak peringatan di kotaknya. Tanggal 21 September ada demo menuntut hukuman berat, dan petisi online membanjir.
Buat fans K-pop, ini nggak jauh-jauh. Laporan sebuah perusahaan keamanan menyebut lebih dari separuh deepfake di situs porno memakai wajah orang Korea, kebanyakan penyanyi dan aktris. Makin banyak fancam panggung dan selfie HD, makin banyak bahan mentahnya. ADOR bilang orang-orang yang menjual gambar palsu member NewJeans sudah dijatuhi pidana di pengadilan tingkat pertama, dan agensi Kwon Eun-bi juga menempuh jalur hukum. Setelah penguntitan sasaeng dan komentar jahat, ini satu lagi bentuk kekerasan terhadap idol.
Kasus ini juga menyulut lagi perang gender di Korea, ditambah ribut soal berita yang melebih-lebihkan jumlah pelaku dan "tersangka" yang salah di-doxing. Di negara tempat kamu bisa ninggalin laptop di kafe dengan aman, sadar betapa rentannya orang di layar itu bikin kaget banyak orang. Sama seperti kolom komentar berita hiburan ditutup setelah Sulli, lagi-lagi Korea baru membenahi sistem setelah kerusakan terjadi.