Tukar wajah dengan AI

Teknologi AI buat menempelkan wajah orang sungguhan ke video lain, yang biasa disebut deepfake. Di Korea, sejak 2024 kata ini lebih sering terdengar sebagai nama kejahatan daripada nama teknologi.

Asalnya dari tahun 2017, dari pengguna Reddit bernama 'deepfakes'. Gabungan deep learning dan fake ini sekarang mencakup foto, video, bahkan suara orang nyata yang dimanipulasi AI. Yang cuma mengubah suara punya sebutan sendiri, suara AI. Editan Photoshop gaya lama nggak termasuk. Karena cuma bagian dalam wajah yang diganti sambil menyamakan warna kulit, hasilnya cepat aneh kalau data ekspresinya sedikit atau ada tangan lewat di depan muka. Tahun 2021 bahkan ada perempuan China mirip IU yang dituduh deepfake padahal orangnya nyata.

Ada sisi bergunanya juga. Sebuah proyek TV menghidupkan lagi panggung penyanyi yang sudah meninggal dengan memasang wajahnya di tubuh penari yang posturnya mirip, dan ada iklan ramen yang memunculkan lagi dua model dari iklan tahun 1978 pakai AI. Konsep model iklan pun jadi goyah. Di audit parlemen 2023, seorang anggota dewan memutar video yang menempelkan wajah menteri ke foto Kim Kwang-seok sedang menyanyikan Around Thirty buat menunjukkan bahayanya.

Sisi gelapnya meledak Agustus 2024 lewat krisis deepfake: terbongkar bahwa konten seksual hasil rekayasa wajah pelajar, guru, dan tentara sudah bertahun-tahun beredar di grup Telegram. Pelaku mengumpulkan selfie dari medsos, dan ada grup chat yang khusus buat mencocokkan perempuan yang sama-sama dikenal dari sekolah atau daerah yang sama. Kementerian Pendidikan mencatat 920 korban dari kalangan pelajar dan guru sampai November tahun itu. Bulan September parlemen mengubah undang-undang sehingga menyimpan atau menonton konten semacam itu pun bisa dihukum, dan Kementerian Pertahanan menyembunyikan foto para prajurit. Secara luas ini salah satu cabang kejahatan seksual digital.

Dampaknya langsung ke K-pop. Laporan sebuah perusahaan keamanan menemukan lebih dari separuh deepfake di situs dewasa memakai wajah orang Korea, kebanyakan penyanyi dan aktris. Itu sebabnya tahun itu agensi seperti JYP, YG, dan ADOR berturut-turut mengumumkan langkah hukum.