Noah Yuval Harari es quizás el intelectual más atrevido de esta época. Su voz escala en medio de la cuarta revolución industrial, un momento histórico marcado por el avance desenfrenado de la inteligencia artificial (IA) y la hipervigilancia, la difusión de noticias falsas, el ataque constante a los actores que “promueven la verdad” -incluido el periodismo- o el auge de los extremismos políticos que acumulan poder en función de factores emocionales, como el miedo o la rabia.
"Los gigantes tecnológicos que crearon la tecnología de la información prometieron que nos iban a conectar entre todos y eso revelaría la verdad. Pero ¿cómo es qué tenemos la tecnología más sofisticada de la historia y no somos capaces de hablar unos con otros? Y ¿por qué esto representa un peligro?", se preguntó Harari.
Considerado uno de los pensadores más influyentes de la actualidad, Harari dice que, paradójicamente, el amplio acceso a la información - un signo característico de la globalización- no es sinónimo de conocimiento o sabiduría. Esta la tesis de Nexus, su último libro editado por Penguin (Debate) que sigue a sus best-sellers Sapiens, Homo Deus y 21 lecciones para el siglo 21. En su obra explora, entre otras cosas, el camino que recorrió la humanidad hacia la disrupción tecnológica y el colapso ambiental actual, según define.
Inteligencia artificial: cómo impactará la utilización de esta tecnología en la industria automotriz
"La IA es diferente de cualquier otra tecnología que hayamos inventado antes. No es una herramienta sino que es un agente independiente. Cualquier tecnología previa las armas nucleares la bomba atómica tenia un poder ingente pero estaba en manos de los seres humanos, quienes deciden los de utilizar la bomba y donde, la bomba como tal no podia decidir ni inventar ninguna arma estrategia nueva", explicó Harari en una rueda de prensa para periodistas latinoamericanos y españoles a la que asistió PERFIL.
En medio del caos global, el aporte del célebre historiador y ferviente crítico de la "tecnocracia" se vuelve crucial por vía doble. Primero para entender las implicancias de un proceso que se nos escapa del entendimiento, especialmente por lo inédito del momento: por primera vez en la historia, el humano creó un elemento con un potencial desconocido -la IA- del que podría perder el control.
Pero especialmente porque este avance tecnológico ya está teniendo consecuencias impredecibles, particularmente en la psicología de los individuos y en la democracia, entendida como una gran "conversación". "La IA está construyendo una narrativa propia", reflexionó Harari. "¿Qué le hace este proceso a la psicología de la sociedad? Nadie lo sabe", apuntó.
Los riesgos de la inteligencia artificial, según Harari
En lugar de centrarse en el lado positivo que ofrece la IA a la humanidad, dice que su rol como pensador es destacar su "lado oscuro". "Tenemos que entender que existe un potencial totalitario en la IA, si bien no es determinista, sino que depende de las decisiones que adoptemos. Admite una vigilancia total que acaba con cualquier libertad", sostuvo Harari,.
Esta tendencia riesgosa hacia un totalitarismo tecnológico, un régimen en el que se controle cada aspecto de la vida (como lo supo ser el nazismo o el estalinismo), es inédita en la historia. Ahora existen herramientas, como sistemas de reconocimiento facial y de voz, o el rastreo mediante teléfonos inteligentes al alcance de todos.
"La diferencia entre regímenes autoritarios y regímenes totalitarios es que los primeros controlan la esfera política, militar, y las personas tienen cierta libertad en el plano personal. En los totalitarios, se intenta controlar todos los aspectos de la vida. Hitler y Stalin tenían limites al nivel de control que podían adquirir de sus súbditos porque no podian seguir a todo el mundo constantemente", dijo.
"Pero la IA no necesita agentes para controlar a todos los humanos. La IA admite una vigilancia total que acabe con cualquier libertad, puede gestionar una cantidad de información enorme y reconocer patrones. Esto ya esta sucediendo. En Israel ya se está usando cámaras y drones en los territorios ocupados, siguiendo a todo el mundo todo el tiempo. Vemos lo mismo en Irán, donde hay cámaras de vigilancia con software de reconocimiento facial que identifica a las mujeres en sus autos particulares inmediatamente y las castigan si no llevan el velo", detalló Harari.
En este ecosistema, las redes sociales juegan su papel fundamental, siendo una caja de resonancia de noticias falsas, un instrumento incluso usado por conocidos líderes políticos (como Jair Bolsonaro o Donald Trump, citados por Harari en la rueda de prensa), que hasta pueden incidir en el resultado de una elección.
En esa línea, Harari no apunta contra los usuarios, quienes "tienen derecho a la estupidez o a decir mentiras", sino a los algoritmos creados por los gigantes tecnológicos (Meta, X, TikTok, Google), cuya lógica de negocio esta basada en la viralización de contenido, incluidas noticias falsas y teorías conspirativas.
"Descubrieron que la manera más fácil de captar la atención humana es pulsar el botón del odio o del miedo o de la rabia en la mente de la gente y de forma deliberada diseminan noticias falsas y teoría conspirativa, aumentando la dosis de rabia", destacó Harari. Pero no todo está perdido. Harari hace hincapié en la regulación del contenido llegando a un equilibrio con la libertad de expresión, evitando la censura.
La desinformación como ataque a la democracia
Harari señala una paradoja inquietante: en la era de la información, la gente está desinformada. O, peor aún, confunde el acceso a la información con la "verdad".
"La democracia es una conversación, es cuando la gente habla entre sí e intenta llegar a una decisión común, a diferencia de la dictadura. Hasta la llegada de la prensa, la democracia a gran escala era imposible. La llegada de la tecnología de la información moderna, como el periódico, el telégrafo, la radio y la televisión, sentaron la base de una democracia a gran escala", explicó Harari.
"Sin estas tecnologías no hay conversación, y sin conversación no hay democracia. Ahora hay un terremoto con la democracia, hay gente que la confunde con las elecciones, pero son solo un mecanismo. En Venezuela y en Corea del Norte hay elecciones y eso no los convierte en democracias", agregó.
Para Harari, la confianza es la base de la democracia. "Una democracia es una conversación donde el elemento clave son los pesos y contrapesos, es decir, donde aquellos que son elegidos para gobernar deben rendir cuentas y dar explicaciones por sus errores", explica.
Yuval Harari lapidó a Bitcoin: "No me gusta, es dinero construido sobre la desconfianza"
En tanto, un eje central de su análisis son las implicancias que la IA tiene en la sociedad moderna, especialmente en las democracias liberales. En especial porque, a la luz de los cambios en la matriz productiva, están siendo sacudidas por discursos extremos amplificados en las redes sociales, habilitando una serie de interrogantes.
¿Qué sucede cuando se difunde información falsa? ¿Qué es la verdad? ¿Qué pasa cuando se desacreditan los actores que permiten a una sociedad confiar en la veracidad de la información, como los científicos o los medios de comunicación tradicionales? ¿Qué sucede cuando las personas dejan de confiar? ¿O cuando son guiadas por emociones, como el miedo o la rabia, y reproducen contenido falso? ¿Quién se beneficia de esta lógica de viralización? ¿Cuándo es apropiado censurar, y cuándo no? ¿Se corre el riesgo de cercenar la libertad de expresión? ¿Dónde está el límite?
Los "guardianes de la verdad"
A veces, se trata simplemente de hacer preguntas. Eso, al igual que el periodismo, es lo que hace Yuval Noah Harari. Piensa a los medios de comunicación, así como entidades académicas y científicos, como actores "guardianes la verdad", en medio de un contexto de desinformación. Un elemento necesario en la sociedad moderna que suele ser atacado por líderes populistas, entre los que hay quienes hacen de la rabia y el miedo un motor electoral.
Para Harari, la IA, al igual que los seres humanos, "construye sentido". Sin embargo, hay una diferencia clave entre información y conocimiento. "Si se desacreditan las instituciones que te 'digan la verdad', que permiten que la sociedad confíe, ¿qué nos queda como verdad? Si destruís la confianza en todas las instituciones, todas colapsan y aplanás el terreno para la dictadura, el único régimen que puede sobrevivir en estas condiciones", sentenció.
De esta forma, el periodismo se vuelve "crucial" a la hora de "preservar la democracia", según Harari, a pesar de que muchos periodistas "no digan la verdad" en función de intereses corporativos.
El nuevo libro de Harari, que vendió 45 millones de ejemplares en sesenta y cinco idiomas, se alza en medio de un contexto en que mucha gente intenta mantener una conversación normal, en medio del ruido y de las deudas de los gigantes tecnológicos con "la verdad", luego de que prometieran que esta tecnología "nos conectará a todos y revelará la verdad".
"Hay que construir una visión más compasiva de los humanos, no todo el mundo está obsesionado con el poder, la gente que te habla está intentando manipularte. La idea de que el conjunto del periodismo es simplemente un elitista para manipular a la gente, esta visión destruye la democracia, la confianza. Tenemos que ir con cuidado para no adoptar este planteo", indicó.
