ELOBSERVADOR
Lo que está en juego

Efectos del chatGPT en las democracias modernas

La máquina que escribe sigue las narrativas de quienes la consultan. Cada tribu escucha lo que quiere oír. ¿No es el fin del Parlamento?

07_07_2024_chatgpt_cedoc_g
| cedoc

Un guionista de un largometraje acude al chatGPT para moldear a su personaje. Un crítico de arte le pide al chat que analice el valor estético de una obra. Un periodista cultural, delante de la pila de libros a reseñar, se dirige al chat para que escriba una crítica del texto a comentar. En cuestión de minutos la Generative Pre-Trained Transfomer aprende de una cantidad de datos, descubre patrones y relaciones entre ellos, genera textos. No nos referiremos aquí a la automatización de miles de labores, de la guillotina que cae sobre profesores, intelectuales y artistas. No a la caja negra del sistema de datos y su proletarización, sino a su efecto sobre la conciencia cultural de una sociedad.

El chat surge de la empresa Open AI fundada en el año 2015 por Elon Musk y Sam Altman. El producto de Microsoft tiene el carácter de un asistente virtual con funciones colaborativas. La potencia de la asistencia consiste en compartir ideas, hacer preguntas, dar comentarios, coordinar tareas. La arquitectura interna se basa en la estructura transformer, una técnica de procesamiento. Esta construcción convierte cada palabra en vectores numéricos para posteriormente procesarlos matemáticamente por una red neuronal. La última versión nos brinda su capacidad para interpretar imágenes y objetos.

Ante las tensiones que podían generar distintas preguntas de los usuarios, los ingenieros decidieron configurar respuestas cordiales siguiendo siempre la narrativa propuesta por el usuario. Lo que genera este modo de vincularse especular es la constante afirmación y la no confrontación de ideas. La función colaborativa del chat no apunta solo a asistir, sino a aportar una versión ceñida a las posiciones del propio usuario. De modo que este elemento genera aquello que el filósofo Boris Groys dio en llamar el “autodiseño”. Hay una respuesta a la medida exacta de nuestros deseos, dispuesta a devolvernos únicamente lo que queremos.

Esto no les gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
Hoy más que nunca Suscribite

Ahora bien, no importa la lengua que utilicemos para comunicarnos con el chat, la empresa de Silicon Valley ofrecerá una contestación al idioma introducido por nosotros, pero según el esquema propuesto más arriba. Un modelo estético que también es ético: globalizar un narcisismo de idealización y sobreestimación. ¿Acaso habrá una colonización más precisa, más aguda y penetrante que la que está llevando a cabo Microsoft al mundo? Un narcisismo no jerarquizado por el reconocimiento, sino horizontal y masificado. 

“Lo que está en juego” fue el nombre de la retrospectiva que albergó los trabajos del cineasta Haroun Farocki en el Instituto Valenciano de Arte Moderno en el año 2016. Farocki, director alemán posterior a Fassbinder, Herzog y Wim Wenders, analizó el modo en que una consola de manejo puede ejercitar capacidades militares para resolver problemas bélicos. Siguiendo los sistemas de videovigilancia y de control advirtió cómo los marines a partir de la Primera Guerra del Golfo se entrenaban con videojuegos. La visión dejó de lado la representación y fue empleada para el reconocimiento y recopilación de uso militar, integrándose completamente a la fábrica de guerra. Si en Farocki aparece la imagen como artificio cuando enfatiza la utilización maquinal de la visibilidad; podemos realizar un paralelismo, entendiendo el chat como máquina escritural. 

Será tiempo de pensar en la tensión entre el artista y el militar, las diferentes formas de dominación que han distorsionado y politizado la relación con las imágenes y, en este último tiempo, con los textos. ¿Seguimos teniendo los escritores una responsabilidad ante lo escrito? Solo si consideramos la escritura no como un objeto autónomo de contemplación estética, sino como un campo activo de conocimiento y sensibilidad podríamos advertir el sometimiento que está teniendo lugar en los sistemas sensitivos. 

La escritura alfabética basada en el archivo contaba con un referente emocional, mental, en fin, representativo. Empero, la escritura estructurada según algoritmos de sustancia matemática confirmaría aquello anunciado por Jimena Canales: “La literatura no está más entre nosotros”. El número, la ingeniería, la ciencia cuentan nuestras historias. 

En 1991, en los alrededores de la Guerra del Golfo comenzaron a ser indistinguibles las imágenes reales de aquellas virtuales. De modo que la imagen no solo era testimonio (como lo había sido durante siglos) sino que entró en un proceso de producción y destrucción en una era de hiper tecnologización. 

De modo tal que las nociones antropocéntricas de lo visible y de lo escrito se han convertido en obsoletas.

Si Walter Benjamin advirtió acerca de la muerte de la narración y la desaparición del aura frente a la tecnologización del mundo moderno, en este momento hemos ido un paso más allá, aniquilando la ficción acordada como base de la legalidad, la ciudadanía y la estructura política basada en esos dos estamentos: la democracia (las democracias). 

La disipación de fronteras entre realidad y ficción que compromete a la imagen y que ha sido utilizada con fines militares y políticos se expande a una fulminación de la palabra como creación apasionada de un escritor respondiendo a los problemas del mundo, hasta convertirse en una codificación mensurable en sus variables cualitativas y cuantitativas. Ese conjunto de datos ya no corresponderá a la visión subvertida que un autor tenga de un universo, sino a una posición reflexiva de sí.

La máquina que escribe, que habla, lo hace desde un exterior con elementos (datos) de un interior, con el deseo de conformar a quien pide esa asistencia. De modo que las nuevas escrituras acomodarán una sensibilidad sin materia, incorpórea. No es ajustado hablar de una guerra sin cuerpos, aquella conformada por los drones y su capacidad de lo visible. No está el cuerpo del agresor, pero sí el de la víctima. Del mismo modo, no habrá cuerpo de escritura, ni sensibilidad del cuerpo de un escritor y, sin embargo, el cuerpo del lector recibirá textos que lo calmen, adormezcan o estimulen. Estimulación rápida bajo la consecuencia de prometer otra mayor estimulación: el texto como consumo. El uso beligerante de esas somnolencias se beneficiará del trastorno de una sociedad cuya agenda estaría marcada por hacer escuchar lo que cada tribu quiera oír sin nada que desacomode, que contradiga. ¿Acaso todo esto no representa el fin del Parlamento?

*Escritora.