En el actual contexto tecnológico, el uso de herramientas avanzadas como la inteligencia artificial (I.A.) ha permitido la creación de imágenes, videos y hasta voces deepfakes, contenidos manipulados, que parecen reales.
El Proyecto de Ley 3955-D-2024, presentado ante el Congreso de la Nación Argentina, por el Diputado Nacional Juan Brügge propone la incorporación de nuevas figuras en el Código Penal para penalizar la creación y difusión de ciertos contenidos deepfake sin consentimiento, cuando estas acciones afecten la integridad personal o profesional de las personas.
El deepfake es mucho más que edición o “phtoshop”, se trata de emplear en simultáneo dos tipos de tecnología de I.A.: una red generativa adversarial, y una red neuronal que intenta reconstruir elementos a partir de un dato.
Así, a partir de un dato real (una imagen, fragmento de video o de voz), una de las redes intenta manipular y generar algo nuevo (falso), que la otra red intenta detectar si es verdadera o falsa; esta interacción se repite en numerosas generaciones de nuevas imágenes.
Deepfakes: la desinformación no se detiene
El algoritmo generador va aprendiendo cuáles son los criterios de falsedad, los va puliendo y corrigiendo, hasta que se arriba a un contenido que, ante ojos humanos, parece real. A mayor disponibilidad de datos reales, más fácil será la generación de imágenes deepfakes.
A ello, se le suma que los avances de la I.A., han hecho mucho por simplificar estos procesos complejos, permitiendo que cualquiera, sin necesidad de contar con conocimientos técnicos pueda generar deepfakes sin mucho esfuerzo. Así aparecen los riesgos y potenciales daños que se pueden generar a partir de esta tecnología.
Deepfkakes y mujeres
El impacto de los deepfakes afecta principalmente a mujeres. En una publicación del Centro Internacional de Gobernanza de la Información detectó que de 15.000 videos online de deepfakes, un 96% eran pornográficos, y de éstos últimos, 99% mostraban a mujeres.
Los avances de la I.A., han hecho mucho por simplificar estos procesos complejos, permitiendo que cualquiera, sin necesidad de contar con conocimientos técnicos pueda generar deepfakes sin mucho esfuerzo"
Se han detectado numerosos ejemplos del uso de tácticas de deepfakes para desacreditar a mujeres, incluyendo al creador de un “filtro de desnudez” que removía ropa de una fotografía, pero sólo funcionaba en cuerpos de mujeres.
En 2019 en Estados Unidos se usó una versión rudimentaria de esta tecnología para mostrar a la congresista Nancy Pelosi como si estuviera intoxicada o bajo los efectos de alguna sustancia. Lo mismo le ocurrió a Patricia Bullrich en nuestro paísen los meses previos a las elecciones presidenciales de 2023.
Los tipos penales
Primero, el proyecto de ley introduce nuevos artículos al Código Penal argentino, con penas de 4 a 8 años de prisión para quien mediante tecnologías de I.A. y sin el consentimiento (art. 139 ter), genere o modifique videos, audios o imágenes para hacerlos pasar como reales. La norma prevé tres escenarios a la generación o modificación sin autorización:
- en perjuicio de actividades personales y profesionales;
- cuando genere un daño o perjuicio actual o potencial a la imagen o reputación;
- en el marco de un proceso electoral, la pena se incrementa si las víctimas son menores, personas con discapacidad o en estado de vulnerabilidad;
- cuando se trate de contenido sexual.
Esta figura abarcaría la situación que se generó en el colegio Manuel Belgrano de Córdoba, cuando un alumno generó imágenes sexuales de sus compañeras utilizando I.A., que terminó siendo remitido al fuero de violencia de género como figura contravencional, por no existir un tipo penal sobre esta conducta.
La pena se eleva a 6 a 10 años cuando los afectados sean menores de 18 años. La figura en tal caso podría coexistir en concurso con la tenencia de pornografía infantil.
5.Cuando se eliminen o editen los avisos identificatorios de que un contenido ha sido creado con I.A., con una pena de 2 a 4 años
Esta última figura se relaciona con la causal de justificación que elimina el tipo penal cuando se utiliza I.A. con fines de interés público, que se definen como la creación de contenido -que debe estar claramente identificado como creado o manipulado con I.A.- para fines educativos, científicos, culturales, de parodia y ejercicio del derecho a informar, en todos los casos con relación a funcionarios o personas de notoria exposición pública.
En una publicación del Centro Internacional de Gobernanza de la Información detectó que de 15.000 videos online de deepfakes, un 96% eran pornográficos, y de éstos últimos, 99% mostraban a mujeres"
Esta excepción permite a los medios de comunicación la utilización de estas herramientas cuando ello sea posible para la mejor comunicación de la información, por ejemplo, para recrear una situación. Ello deberá ser identificado para que el espectador o ciudadano no sea engañado.
Ventajas
El proyecto tiene varias ventajas que cabe destacar, pues no sólo protege la intimidad y la reputación de las personas, sino también protege las marcas de las personas jurídicas que podrían verse afectadas por acciones desleales de un competidor.
La tecnología de I.A. podría permitir mejorar imágenes y mejorar audios obtenidos legítimamente por la prensa"
A su vez, la existencia de consentimiento elimina el tipo penal, lo que permitirá a actores, artistas, creadores de contenido valerse de esta tecnología -siempre y cuando tengan el consentimiento de la persona afectada-, sin mayores restricciones que aquellas que las partes redacten en un contrato. La carga de la prueba recaerá en la persona que utilizó la I.A. que es el principal interesado y quien debiera guardar copias de los contratos. De esta forma se evita la revictimización, o condicionar a la víctima a obtener pruebas imposibles.
La excepción prevista permite garantizar que no se persiga penalmente el ejercicio del derecho a informar y de la libertad de expresión. En nuestro país tenemos antecedentes de utilización del sistema penal para perseguir al periodismo, que muchas veces termina en la CSJN o en la Corte Interamericana de Derechos Humanos, convalidando la libertad de expresión, el derecho a la crítica, el derecho a la opinión, siempre que hay cuestiones de interés público en juego.
Esto es de suma importancia pues la tecnología de I.A. podría permitir mejorar imágenes y mejorar audios obtenidos legítimamente por la prensa (por ejemplo, en una protesta donde hay ruido o movimientos bruscos de la cámara), que podrían verse perjudicados o impedidos de utilizar esta tecnología para mostrar lo que realmente ocurrió.
El proyecto responde a unanecesidad urgente de actualizar el marco legal argentino frente a las nuevas tecnologías que pueden ser usadas para la manipulación de información y la creación de falsos testimonios visuales y auditivos, como ya ocurrió en el caso referenciado en Córdoba.
Es preciso destacar que la tecnología de I.A. es superada constantemente y a pasos agigantados. Su regulación por segmento o en aspectos puntuales de afectación podrá ser complementada por un futuro marco legal de uso responsable de I.A. y de presupuestos éticos mínimos para su implementación.
La aprobación de esta ley podría sentar un precedente importante en la región y posicionar a Argentina como un líder en la protección contra los abusos tecnológicos.
