La fiesta del odio en redes sociales: ¿es la IA el problema o nosotros mismos?

En la era digital, donde la inmediatez prima sobre la reflexión, resulta más cómodo culpar a los algoritmos que a nuestra propia incapacidad de discernir. Pero hagamos una pequeña autocrítica: ¿realmente el problema es la inteligencia artificial, o nuestra falta de rigor para consumir y compartir información? La reciente experiencia de las elecciones en Estados Unidos nos ofrece una radiografía de un sistema que amplifica discursos de odio y fake news, no gracias a la IA, sino a nuestra complacencia y al descontrol reinante.

En las últimas elecciones norteamericanas, los algoritmos de recomendación de plataformas como X no fueron manipulados principalmente por contenidos generados por IA, sino por el "efecto de amplificación" (The Batch, 2024). Un ejército de bots disfrazados de usuarios reales llenó la plataforma con likes, retuits y compartidos falsos, engañando a los algoritmos para posicionar ciertos discursos o mensajes en los feeds de personas reales. Esto no solo fomentó la desinformación, sino que la naturalizó, dándole apariencia de consenso.

Así surge una pregunta incómoda: ¿por qué seguimos confiando en estas plataformas como fuentes de información legítimas? Una posible respuesta podría ser porque es más fácil darle un like que chequear una fuente. Sin embargo, el peligro radica en que esta dinámica no solo distorsiona la verdad, sino que polariza, enciende pasiones y legitima discursos de odio.

Uno de los mayores problemas en la lucha contra la desinformación es el acceso restringido a las APIs (Interfaces de Programación de Aplicaciones) de las principales plataformas digitales. Estas interfaces podrían ser herramientas clave para que investigadores y desarrolladores monitoreen y controlen la propagación de noticias falsas. Sin embargo, las empresas tecnológicas están limitando cada vez más su uso. ¿La excusa oficial? Protección de datos. ¿El motivo real? Mantener el control absoluto de sus ecosistemas y narrativas.

Las fake news contaminan la elección de Estados Unidos

Como señala El País al hablar de iniciativas como “Open Gateway”, esta falta de acceso no es una regla inevitable. Open Gateway propone redes programables que permitan a aplicaciones móviles acceder a funciones globales, promoviendo la transparencia y la colaboración en áreas como la seguridad y la eficiencia operativa. Este modelo contrasta con la opacidad de las plataformas tradicionales, que prefieren limitar el acceso a sus APIs para evitar rendir cuentas y perpetuar un sistema que monetiza desde la desinformación y el odio. Otro caso en este sentido, fue el reciente lanzamiento de comandos API por parte de Anthropic para su modelo Claude 3.5 que demuestra que la tecnología tiene el potencial de ser parte de la solución. Sin embargo, mientras las grandes plataformas prioricen sus beneficios económicos sobre el bien común, seguiremos atrapados en un ciclo de negatividad y desinformación. La verdad incómoda es que la desinformación vende, y el odio engancha.

Mientras tanto, los Estados permanecen rezagados. Aunque la Unión Europea ha dado pasos importantes con su ley de IA, diseñada para evitar sesgos y violaciones de privacidad, la mayoría de los países carece de un marco regulatorio que exija transparencia a las plataformas. En Estados Unidos, el laissez-faire ha dejado que las empresas tecnológicas diseñen sus propias reglas. ¿El resultado? Un ecosistema digital donde la polarización y la radicalización son moneda corriente.

 Yuval Noah Harari lo expresó claramente: el verdadero desafío de nuestro tiempo no es solo combatir la desinformación, sino "invertir en la verdad". Para Harari, esto implica destinar recursos tanto públicos como privados a iniciativas que fortalezcan el periodismo de calidad, la educación mediática y las herramientas tecnológicas que promuevan la transparencia y el acceso a información verificada. Sin esta inversión, el terreno seguirá siendo fértil para quienes buscan dividir y confundir.

En nuestro país, el panorama no es menos preocupante. Según DataReportal, en 2024 el 68,2% de los argentinos utilizan redes sociales, lo que equivale a más de 31 millones de personas. De ellos, el 77,1% acceden a al menos una plataforma regularmente. YouTube y Facebook lideran en usuarios, pero X y otras plataformas no se quedan atrás.

Las fake news de hoy y de la última dictadura militar

El problema no radica solo en el nivel de penetración, sino en el hecho de que una gran parte de la población se informa exclusivamente a través de redes sociales, donde los algoritmos deciden qué es "relevante". Esto crea un ecosistema donde las fake news se propagan con una velocidad alarmante, polarizando a la sociedad y erosionando la confianza en las instituciones.

Es fácil culpar a los algoritmos, pero la verdadera responsabilidad recae en los actores humanos: las empresas tecnológicas que priorizan las ganancias sobre la verdad, los Estados que no regulan, y los usuarios que no cuestionan. La solución, en una humilde opinión, podría comenzar a pensarse en los siguiente tres ejes:

1. Regulación efectiva: los gobiernos deben exigir transparencia en los algoritmos y acceso a las APIs.
2. Educación mediática: enseñar a la población a consumir información de forma crítica es esencial para contrarrestar la desinformación.
3. Inversión en la verdad: como propone Harari, es necesario destinar recursos a fortalecer el periodismo, la educación y las tecnologías que promuevan la transparencia y el fact-checkng.

Hasta que no abordemos estos problemas de raíz, seguiremos siendo cómplices-víctimas de un sistema que prioriza el click sobre la verdad y la polarización sobre el diálogo. La lucha contra la desinformación no es solo una batalla tecnológica, sino un imperativo ético que nos involucra a todos y compromete nuestro futuro y el diálogo social.

* IT Project Manager

LM / Gi