Corea del Sur se encuentra enfrentando una particular y compleja crisis en las escuelas y universidades, donde fotografías de varias alumnas están siendo utilizadas y manipuladas para crear material pornográfico "deepfake" (ultrafalso) que luego es distribuido a través de Telegram.
Este fue el caso de Heejin, compartido por la BBC, una estudiante universitaria este sábado recibió un mensaje anónimo en la app de mensajería que decía: "Se filtraron tus fotos e información personal. Hablemos", acompañado de una antigua voto de ella editada para ser sexualmente explícita.
La joven relató al medio británico que no respondió a los mensajes, sin embargo, continuó recibiendo imágenes de su rostro colocado en fotos, a través de la tecnología deepfake que suele emplear inteligencia artificial, donde simulaba estar teniendo relaciones sexuales.
"Me quedé petrificada, me sentí muy sola", expresó. Aunque no estaba sola, dos días antes la periodista surcoreana Ko Narin había publicado una primicia donde relataba que la policía surcoreana estaba investigando redes de pornografía deepfake que operaban en las dos principales universidades del país.
Convencida de que había mucho más, la comunicadora comenzó a investigar en redes sociales y descubrió docenas de grupos de Telegram donde los usuarios compartían fotos de mujeres y empleaban el software de inteligencia artificial para crear las falsas imágenes sexualmente explícitas en cuestión de segundos.
"Cada minuto la gente subía fotos de chicas que conocían y pedía que las convirtieran en deepfakes", relató la periodista, quien reveló que los grupos no solo apuntaban a jóvenes universitarias, sino también a chicas que aún se encontraban en la escuela secundaria.
Ko también reveló que en caso de que se creara mucho contenido sobre una joven en particular, a esta se le podía asignar una sala de chat propia, llamadas "salas de humillación" o "salas de amigos de amigos", con condiciones de entrada estrictas y dedicadas solo a distribuir el material.
El artículo publicado en el periódico Hankyoreh provocó gran revuelo en Corea del Sur y, en consecuencia, este lunes la policía anunció que estaba considerando abrir una investigación en Telegram por los delitos que podrían estar relacionados con la aplicación. Asimismo, el Gobierno prometió castigos más severos para los involucrados.
Proyecto de Ley de Deepfakes en Argentina
Sobre la forma de actuar de los implicados, la periodista indicó que se sorprendió por lo "sistemático y organizado" que es el proceso, mediante el cual se dan instrucciones en las descripciones de las salas de chat, explicando que se debe enviar una cantidad de fotos determinada junto al nombre, edad y zona de residencia de la joven víctima del fake.
"Lo más horrible que descubrí fue un grupo de alumnos menores de edad en una escuela que tenía más de 2.000 miembros", reveló Ko, cuya investigación impulsó la movilización de varios activistas por los derechos de las mujeres, quienes comenzaron sus propias investigaciones e identificaron casos en más de 500 escuelas y universidades.
Según trascendió, aún no ha sido posible calcular el número exacto de víctimas, aunque sí se indicó que la mayoría serían menores de 16 años, la edad mínima de consentimiento en el país, y que la gran mayoría de los responsables serían adolescentes.
Como consecuencia de esta nueva amenaza cibernética, decenas de mujeres y adolescentes comenzaron a eliminar sus fotos de las redes sociales e incluso desactivaron sus cuentas por temor a convertirse en víctimas de la mencionada falsificación de imágenes.
Telegram en el ojo de la tormenta
La aplicación de mensajería quedó en el centro de esta polémica ya que es una app privada y encriptada, donde los usuarios suelen ser anónimos, las salas de chat pueden configurarse en modo "secreto" y el contenido puede ser eliminado rápidamente sin dejar rastros.
En este contexto, este lunes la Agencia de Policía Nacional de Seúl anunció que investigaría la plataforma por su rol en el que permite la distribución de imágenes pornográficas falsas. Es válido mencionar que su fundador, Pavel Durov, fue acusado la semana pasada en Francia de ser cómplice de una serie de delitos relacionados con la aplicación, incluyendo la distribución de pornografía infantil.
Por otra parte, las activistas por los derechos de las mujeres surcoreanas apuntan contra el país que los abusos sexuales en la plataforma se prolonguen sin control por mucho tiempo, ya que en 2019 se conoció que una red de prostitución utilizaba la app para obligar a mujeres y niños a crear y compartir imágenes sexualmente explícitas.
En aquel momento, la policía solicitó la colaboración de Telegram con la investigación. No obstante, la aplicación ignoró las siete solicitudes, aunque no se tomó ninguna medida en su contra por temores de censura.
Previamente, el Centro de Defensa de las Víctimas de Abuso Sexual en Línea de Corea del Sur (ACOSAV) ya había percibido un aumento en el número de menores de edad víctimas de pornografía deepfake, ya que en 2023 asesoraron a 86 víctimas adolescentes, cifra que solo en ocho meses de 2024 aumentó a 238.
La plataforma Telegram “se convirtió en un punto de interés estratégico”
"Con la última tecnología deepfake ahora hay mucho más material que antes y nos preocupa que esto solo vaya a aumentar", manifestó Park Seonghye, una de las responsables del centro, quien añadió: "Para nosotros ha sido una emergencia a gran escala, como una situación de guerra".
Tras asesorar a las víctimas, el centro rastrea el contenido y busca trabajar con las plataformas involucradas para eliminarlo. Sobre Telegram, la mujer reveló que en ocasiones el sitio eliminó material a pedido de ellas.
Telegram, por su parte, indicó a la BBC que sus moderadores "monitorean proactivamente las partes públicas de la aplicación, usan herramientas de inteligencia artificial y aceptan informes de usuarios para eliminar millones de piezas de contenido cada día que violan los términos de servicio".
AS/LT
