El Gobierno nacional creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad (UIAAS), un organismo que funcionará bajo la órbita del Ministerio de Seguridad y que se presentó con el objetivo de “prevenir, detectar, investigar y perseguir los ciberdelitos y sus conexiones”. Apenas se conoció el decreto, se encendieron las alarmas de los especialistas y surgieron preguntas: ¿con qué tecnología se va a realizar?, ¿se abrieron licitaciones para adquirirlas?, ¿quién determinará el criterio con el que la IA identificará patrones “sospechosos”?, ¿cómo se resguardará la información?
Alberto Fernández: "Es verdad, hay persecución sobre el Gobierno de Venezuela"
PERFIL consultó a Beatriz Busaniche, presidenta de la Fundación Vía Libre; a Sofia Scasserra, directora del Observatorio de Impactos Sociales de la Inteligencia Artificial de la Universidad Nacional Tres de Febrero; y a Natalia Zuazo, especialista en política y tecnología y directora de Salto Agencia. Las tres coincidieron en buena parte de las críticas hacia la nueva iniciativa de Patricia Bullrich, quien ya había dado un paso en esta línea con su reciente protocolo de ciberpatrullaje y que ahora decidió profundizar.
LA UIAAS funcionará en la dirección de Ciberdelito y Asuntos Cibernéticos dependiente de la Unidad de Gabinete de Asesores. A través de la resolución 710/2024 se le asignó a la unidad 12 funciones, entre las cuales se menciona “patrullar redes sociales abiertas” para identificar autores de delitos o para “identificar movimientos de grupos delictivos o prever disturbios”, analizar imágenes de cámaras de seguridad para “detectar actividades sospechosas o identificar personas buscadas utilizando reconocimiento facial” y “crear perfiles de sospechosos o identificar vínculos entre diferentes casos”, utilizar drones para vigilancia aérea.
Una de las grandes preguntas es si el Gobierno ya sabé con qué IA quiere trabajar y, por ejemplo, si abrirá un proceso de licitación para las empresas. Desde el Ministerio de Seguridad no respondieron la consulta de PERFIL. Según publicó Letra P, además, el organismo compartirá competencias con otras áreas como la SIDE, lo que suma aún más interrogantes a cómo llevará adelante sus tareas.
Monitoreo permanente de redes sociales abiertas
El inciso A del artículo 4 de la resolución establece que la UIASS debe “patrullar las redes sociales abiertas, aplicaciones y sitios de Internet, así como la llamada ‘Internet profunda’ o ‘Dark-Web’, en orden a la investigación de delitos e identificación de sus autores, así como la detección de situaciones de riesgo grave para la seguridad, en el marco de la Constitución Nacional y legislación vigente”.
Para Busaniche, esta función “es ilegal”. “Es lo que se llama investigación de fuentes abiertas. Es una forma de hacer inteligencia criminal que solo está autorizada legalmente cuando hay una hipótesis delictiva y un marco jurisdiccional, es decir, con orden de un juez y mecanismos de contralor”, explicó.
La experta utilizó un ejemplo sencillo para que se comprenda la dimensión de este monitoreo permanente en las redes: en el espacio público existe el patrullaje con, por ejemplo, policías que caminan por la ciudad. Pero si dos personas están manteniendo una charla en una plaza y un efectivo se para junto a ellas para escuchar y grabar su conversación, cualquiera se daría cuenta que está cruzando la línea de lo permitido.
“En ese caso, las personas automáticamente le pedirían sus datos y hasta podrían presentar una queja a la Justicia. Es cierto que no es lo mismo estar hablando en tu casa, que por teléfono o en un bar, donde puede haber una cámara de vigilancia o un efectivo policial. La presunción de privacidad es diferente en cada espacio, pero eso no supone una renuncia total a la privacidad, ni siquiera en redes sociales”, agregó Busaniche. Este inciso, sostuvo la especialista, “atenta contra la libertad de expresión y es absolutamente desproporcionado”.
El inciso F sostiene que la UIASS, además, tendrá la función de “procesar grandes volúmenes de datos de diversas fuentes para extraer información útil y crear perfiles de sospechosos o identificar vínculos entre diferentes casos”. Este punto habla de lo que se conoce como profiling y la gran pregunta es quién entrenará a la herramienta para que detecte “sospechosos”.
"Necesitan uno preso": organizaciones en pie de guerra por los procesamientos al Polo Obrero
“¿Qué datos van a recibir, con qué indicaciones? Sabemos que de acuerdo con datos, prompts y entrenamiento los modelos pueden tener distintos resultados. Pero al ser inteligencia, es probable que eso no sea transparente para las personas comunes. Y, por lo tanto, se nos van a presentar resultados como ‘dados’ y no podremos conocer el camino que se recorrió para llegar a los mismos. Eso, si se trata de cuestiones penales, podría ser grave porque implica, por ejemplo, decidir sobre la libertad de las personas”, reflexionó Zuazo.
La IA, que explotó en el último tiempo, suele ser presentada como una herramienta imparcial y objetiva. Sin embargo, en la práctica no se verifica que funcione así. “No son sistemas inteligentes, hay que cortar con esa idea. Son sistemas que sirven para hacer buenas estadísticas y pilotear grandes volúmenes de datos, pero puestos a tomar decisiones que afectan a las personas son una catástrofe. Todo lo vinculado a lo humano tiene errores enormes que afectan, sobre todo, a ciertos grupos. Por ejemplo, en Estados Unidos hay fallos brutales con respecto a la población afrodescendiente porque los sistemas de Google los confundían con monos”, agregó Busaniche.
Estos instrumentos deben recibir un “entrenamiento” para que puedan elaborar sus patrones. En otras palabras, alguien debe indicarle a la IA —su desarrollador o quien se la encarga, en este caso el Gobierno— qué material debe distinguir del resto. “¿Cuál es la idea de crear perfiles sospechosos?, ¿se van a poner a todos los jovencitos que venden cursos y que en realidad son estafadores Ponzi o van a poner a los dirigentes sociales de los movimientos de base?”, se preguntó Busaniche.
Pero si se dejara de lado la cuestión de los sesgos ideológicos, la IA también presenta otro problema: suele tener un enorme margen de error. Busaniche puso como ejemplo la prohibición expresa de Meta de publicar pechos femeninos que, en la práctica, genera que sean baneadas todo tipo de imágenes similares simplemente porque el sistema se confunde. Aplicada a seguridad, esta herramienta podría buscar, por ejemplo, publicaciones de armas: ¿pero cómo se puede garantizar que va a saber diferenciar una pistola de juguete de una verdadera?
El inciso J sostiene que la unidad podrá “analizar actividades en redes sociales para detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios”. Para Busaniche no hay dudas: “Esto es contra la protesta social y la organización del pueblo que se quiera manifestar”. Zuazo agregó que Bullrich ya llevó adelante tareas de este tipo cuando fue ministra de Mauricio Macri: “Que yo sepa, no se logró prevenir ningún disturbio o amenaza, sino que sirvió para encarcelar personas por delitos menores o por ningún delito”, dijo.
Reconocimiento facial, cuestionado en la Justicia, y el debate internacional
El inciso C establece que la unidad podrá “analizar imágenes de cámaras de seguridad en tiempo real a fin de detectar actividades sospechosas o identificar personas buscadas utilizando reconocimiento fácil”. Este punto hoy está siendo cuestionado en la Justicia de la Ciudad de Buenos Aires.
En 2019, el Gobierno porteño implementó el Sistema de Reconocimiento Facial de Prófugos (SRFP) que fue declarado inconstitucional en primera instancia y luego la decisión fue ratificada por la Cámara. La causa fue iniciada por el Observatorio de Derecho Informático de la Argentina, luego se sumó el CELS y también recibió el apoyo como amicus curiae de la Fundación Vía Libre.
¿Qué está pasando con los sueldos en Argentina?
La gran pregunta detrás de esta causa es quién controla al sistema, cómo y cuán seguro es. Los denunciantes, entre otras, plantearon la necesidad de que la empresa proveedora del servicio pueda ser auditada, una condición que no se cumplió.
El debate sobre hasta qué punto el Estado puede controlar a las empresas que proveen estos servicios está en plena discusión a nivel jurídico internacional. Argentina no tiene una legislación particular sobre el tema. Lo único que existe, por el momento, es una resolución de Jefatura de Gabinete firmada en junio del 2023 en la que Argentina aprobó las “Recomendaciones para una Inteligencia Artificial Fiable”, elaborada por Naciones Unidas.
Sin embargo, según Scasserra, buena parte de los problemas tienen que ver con que, a nivel regional, los únicos acuerdos vinculantes que existen son los de libre comercio. “Plantean que no puede ser obligatorio que un Estado le pida a las empresas el código fuente del desarrollo para que verificar si cumple o no con la normativa local. El argumento es el secreto de comercio y sostienen que no tienen por qué decirte cómo programaron su IA y lo asimilan con la fórmula de la Coca Cola, que nadie conoce. Es la misma lógica en términos de propiedad intelectual, lo cual es una barbaridad”.
En América Latina, el pacto de este tipo más importante es el Acuerdo Transpacífico de Cooperación Económica, del que Argentina no es firmante. Por estos días, el país está negociado acordar una declaración conjunta de la Organización Mundial del Comercio que va en la misma dirección.
Qué hacer con Villarruel y Conan
No todos están de acuerdo en que ese sea el camino. Mientras que los tecnócratas especializados en economía defienden el secreto de los desarrollos y pretenden ir por una liberalización de las herramientas sin ninguna responsabilidad por parte de las empresas, las recomendaciones de Naciones Unidas van en un sentido contrario: “El planteo de la ONU es poner a la tecnología al servicio de la humanidad y, por ende, sostiene que es inadmisible que el Estado no tenga capacidad de regularla. Ergo, los Estados deberían poder incidir en la auditoría del código fuente o de la fabricación del algoritmo”, agregó Scasserra. La Unión Europea hizo un intento por delinear estos procedimientos que, aunque no satisfacen a buena parte de los expertos, también reafirma la importancia de la regulación.
Busaniche, además, contradijo uno de los considerandos de la resolución ministerial. Desde Seguridad sostuvieron que este tipo de herramientas ya se utiliza en todos los países, pero la especialista aclaró: “Hablan de Estados Unidos, por ejemplo, pero en Boston y en San Francisco el reconocimiento facial está prohibido. En Londres está fuertemente cuestionada. En Europa se define a los sistemas de profiling como de máximo riesgo. ¿En dónde sí se utilizan? En China, donde sabemos que el poder del Estado es muy diferente”, sostuvo.
La pregunta es obvia: si estos sistemas funcionaran a la perfección, si el entrenamiento humano lograra reducir el margen de error y eliminaran los sesgos —si eso fuera posible—, ¿es compatible una vigilancia permanente con los Estados democráticos?, ¿hasta qué punto se le permitirá a las autoridades inmiscuirse en la vida de las personas? Cuando en Argentina se discutía, por ejemplo, la nominación de la tarjeta SUBE, buena parte de la resistencia vino por parte de los libertarios, que en ese entonces eran un nicho. Sin embargo, ahora que llegaron al poder, parece que le encontraron el gusto al avance estatal.
Secreto bancario y drones: más preguntas que respuestas
Las funciones de la unidad se pueden agrupar en tres: las que son fuertemente cuestionadas por los especialistas, como las mencionadas. Las que resultan lógicas, como la necesidad de mejorar la comunicación y la coordinación de las fuerzas o la utilización de robots en lugar de efectivos policiales para desactivar explosivos. Y las que generan absoluta incertidumbre.
El inciso K dice que la unidad podrá “detectar transacciones financieras sospechosas o comportamientos anómalos que podrían indicar actividades ilegales”. “¿Se van a cargar el secreto bancario?”, se preguntó Busaniche. Algo similar sucede con el inciso G, que habla de “patrullar mediante drones áreas extensas, proporcionar vigilancia aérea y responder a emergencias”. “¿Drones autotripulados querrán comprar? ¿Los que se usan como arma de guerra?”, agregó la especialista.
Diego Giacomini: "El Estado es el topo que va a transformar a Milei"
Tampoco queda claro cómo se resguardará la información que se recoja. “Se lee que van a estar a cargo fuerzas de seguridad. ¿Cómo nos garantizamos que esas fuerzas no manipulen en favor de sus intereses?”, cuestionó Zuazo, quien también puso el enfoque en que la unidad dependerá del ministerio y, por lo tanto, carecerá de control.
Mientras que a nivel global se impone una corriente que describe las bondades que traerán estas herramientas a la sociedad y a la economía, hay quienes insisten en que sus alcances no pueden quedar librados al antojo de los empresarios o los gobiernos de turno. Y, de hecho, coinciden en el mismo ejemplo a la hora de sostener que las regulaciones no son necesariamente un obstáculo para el desarrollo: la industria farmacéutica. El sector, que no para de crecer, tiene que necesariamente exponerse a rigurosos controles estatales para garantizar, ni más ni menos, que aquello que sacan al mercado no será un riesgo para la población.
CP
