Los padres de una adolescente de 13 años demandaron a Google alegando que la joven planificó su posible suicidio y posterior funeral usando la tecnología de Inteligencia Artificial (IA) de la compañía en una computadora que le dio la escuela.
Es el primer caso difundido de una acusación contra Google por negligencia relacionada con integraciones de Inteligencia Artificial en las Chromebooks, las laptops que usan millones de alumnos en todo el mundo.
Google puso un chip de IA en órbita y le escribió un haiku a la Tierra
Según la Agencia AFP, la joven, identificada con el nombre de Emma, no pudo usar la aplicación Gemini de Google ni ChatGPT de OpenAI porque su escuela las tenía bloqueadas, por eso recurrió al motor de búsqueda de Google, que incluye herramientas impulsadas por Inteligencia Artificial.
Andrew Liddell, uno de los abogados de la familia, expresó a la Agencia AFP que “las escuelas deberían desactivar la búsqueda y mantenerla desactivada hasta que Google elimine el modo de IA de la búsqueda o garantice que cada estudiante esté siempre seguro cuando interactúe con la IA”.
Cómo empezó todo
Según AFP, el 17 de marzo pasado, el software de monitoreo de la escuela encontró un documento titulado "Funeral" y el centro educativo notificó a los padres de la adolescente sobre lo que estaba pasando.
Este lunes se presentó la demanda ante un tribunal de California donde se asegura que Emma había sido una “niña feliz de 13 años” en Carolina del Norte que lograba excelentes calificaciones, tocaba música e integraba las Girl Scouts.
Según AFP, en la demanda se afirma que la joven no tenía antecedentes de enfermedad mental pero tras meses usando la búsqueda con IA de Google en su computadora portátil escolar, Emma empezó una “silenciosa espiral en una grave crisis psicológica”.
¿Y si estalla la burbuja tecnocrática?
“Estamos revisando las alegaciones de la demanda y nos tomamos esto muy en serio”, le dijo a la AFP el portavoz de Google, Jose Castaneda.
Según Google, el modo de IA incluye protecciones contra autolesiones. Sin embargo, aseguró Lidell, Emma “pudo seguir volviendo una y otra y otra vez. Cualesquiera que fueran las protecciones que creen haber implementado, fueron obviamente insuficientes”.
