La crisis de los deepfakes
En el verano de 2024 salió a la luz que deepfakes sexuales de mujeres, desde idols del K-pop hasta estudiantes y maestras comunes, circulaban en masa por salas de Telegram. En cuestión de semanas, Corea cambió la ley.
Todo arrancó con un reportaje de MBC el 19 de agosto. Una recién egresada universitaria se enteró por un DM de Instagram de un desconocido que había porno falso hecho con su cara circulando en una sala de Telegram, junto con sus datos personales. La sala tenía más de mil miembros y clasificaba a las víctimas por unas 70 universidades. Funcionaba desde 2020.
Lo más escalofriante eran las llamadas salas de "conocidos en común". Gente del mismo barrio o escuela comparaba contactos hasta dar con una mujer que todos conocían, sacaba sus selfies de redes y los metía en una IA de cambio de rostro. Había salas dedicadas a una sola persona y las imágenes se vendían. El blanco pasó de universitarias a chicas de secundaria, maestras, enfermeras, soldadas, periodistas e incluso familiares. Que muchos agresores fueran adolescentes fue lo que más heló al país.
Las cifras no paraban. Un sindicato docente recibió 2,492 denuncias en solo dos días de encuesta. Para noviembre, el Ministerio de Educación contaba 920 víctimas entre alumnos y personal, y la policía había imputado a 318 sospechosos a inicios de septiembre. Se viralizaron listas y mapas de "escuelas afectadas", pero mezclaban datos sin verificar y generaron miedo a una revictimización. La BBC lo tituló como una "emergencia" de deepfakes en Corea del Sur.
El timing fue rarísimo. Una semana después del primer reportaje, arrestaron en Francia al fundador de Telegram, Pavel Durov. La app llevaba años negándose a colaborar con investigadores y en Corea era el nido de la explotación sexual desde el caso Nth Room de 2019. Ese mismo año estalló también el caso del chat grupal de famosos, así que Corea ya había peleado una guerra contra los delitos sexuales digitales. Cuando la policía coreana abrió una investigación contra Telegram por complicidad, la empresa se disculpó por correo y abrió un canal para retirar contenido. En diciembre ya había anunciado cooperación formal con el regulador coreano.
El Congreso fue rápido. El 26 de septiembre aprobó una reforma a la ley de delitos sexuales digitales: ahora no solo es delito crear o difundir deepfakes sexuales, también tenerlos o simplemente verlos. Antes, el gran hueco era que sin "intención de difundir" casi no había cómo acusar a nadie. El ejército ocultó las fotos de sus soldados, Naver y KakaoTalk publicaron canales de denuncia, y una cadena de pizzas imprimió advertencias en sus cajas. El 21 de septiembre hubo marchas pidiendo castigos duros y las peticiones en línea se multiplicaron.
Para el fandom del K-pop esto pega de cerca. Según el reporte de una empresa de seguridad, más de la mitad de los deepfakes en sitios porno usaban rostros coreanos, en su mayoría cantantes y actrices. Mientras más fancams y selfies en HD existen, más material hay. ADOR informó que quienes vendían imágenes falsas de las integrantes de NewJeans recibieron condena penal en primera instancia, y la agencia de Kwon Eun-bi también tomó acciones legales. Después del acoso sasaeng y los comentarios de odio, era otra forma de violencia contra las idols.
El caso también reavivó la guerra de géneros en Corea, con polémicas por cifras infladas de agresores y "culpables" señalados por error. En un país donde puedes dejar tu laptop en el café sin que nadie la toque, descubrir lo desprotegida que estaba la gente en la pantalla fue un golpe. Igual que cuando se cerraron los comentarios de noticias de espectáculos tras la muerte de Sulli, Corea arregló el sistema solo después del daño.