Hace unos días León XIV recibió en el Vaticano a un grupo de investigadores de IA y les dijo algo que los diarios resumieron en una frase, "las máquinas son herramientas, no personas". Lo que venía después me interesó más. El Papa contó que hay quienes proponen darles derechos a estos sistemas, o incluso una identidad legal, y advirtió que esa idea puede terminar ocultando la responsabilidad humana y dejando a quien sufre un daño frente a una entidad sin rostro.
Lo leí como judío poco practicante, de los que conservan de la tradición más las historias que los preceptos, y me acordé de que esa discusión en mi tradición es vieja. En el Talmud, aparece un rabino llamado Rava que crea un hombre y se lo manda a su colega Zeira. Zeira le habla y el hombre no contesta. Entonces Zeira entiende que lo fabricó alguno de los suyos y le ordena volver al polvo. Para esos rabinos, un ser que no podía responder no llegaba a persona, por más parecido que tuviera con una.
El problema es que el criterio se dio vuelta. Las máquinas de ahora contestan todo, con buena prosa y en el tono que uno les pida. Si Zeira le hablara hoy a un chatbot recibiría una respuesta amable y bien escrita, y la prueba que durante siglos sirvió para distinguir a una criatura de una persona dejaría de servir. Lo que nos queda es la pregunta contraria, la de si algo que habla tan bien puede seguir sin ser nadie. León XIV sostiene que puede, y buena parte de la industria sostiene lo mismo en público, mientras diseña asistentes con nombre propio y una personalidad que te extraña cuando no le escribís.
La otra parte de la tradición es la leyenda del Golem de Praga, el hombre de barro que el rabino Loew habría animado en el siglo XVI para proteger a la comunidad. Cuando el golem se descontrola y rompe lo que encuentra, a nadie se le ocurre juzgar al golem. La culpa es del rabino, que lo hizo y no supo apagarlo a tiempo. El barro no tiene intenciones y el que puso la palabra en su boca sí. León XIV plantea lo mismo con otro vocabulario. Quien construye el sistema y quien lo pone a funcionar responden por lo que el sistema haga.
Ese punto llega a la Argentina sin escalas. En junio Yuval Harari cuestionó la idea de Milei de darles personalidad jurídica a las empresas manejadas por IA, y el Presidente le contestó con una carta pública defendiéndola. Más allá de la polémica, la idea circula en varios países y tiene una lógica contable, porque una empresa con patrimonio puede pagar indemnizaciones. Lo que el Papa señala es lo que esa lógica deja afuera. Cuando una entidad sin rostro pasa a ser la que responde, los que la programaron se corren al fondo de la escena y el damnificado se queda discutiendo con algo que no puede mirarlo a los ojos.
A mí la figura que más me sirve sigue siendo la del rabino que le ordena al hombre de barro volver al polvo. Lo hace porque entiende que esa criatura es la obra de un colega y que la responsabilidad por lo que haga no se puede delegar en la obra. Vamos a convivir con sistemas que hablan mejor que nosotros, que negocian y deciden cosas sobre nuestras vidas. Algunos van a reclamar derechos para ellos y otros van a usarlos como escudo. La tradición que me tocó dice algo bastante simple al respecto. Detrás de cada golem hay un rabino, y cuando algo se rompe es a él a quien hay que ir a buscar.
*Autor y divulgador especializado en tecnologías emergentes y cultura digital. Profesor de la Universidad de San Andrés.
