Google sufre una demanda por culpa de su IA: ayudó a una niña de 13 años a planear su suicidio y funeral
Los desarrolladores sufren varias demandas iguales en Estados Unidos
Los peligros de la inteligencia artificial crecen en el mundo y, a pesar de que puede llegar a ser una herramienta muy útil, el descontrol actual también puede llevar a problemas más graves como el reciente en Estados Unidos. Google ha sido demandada por una familia, acusando a la IA de la compañía de ayudar a su hija de 13 años a planear su suicidio y su posterior entierro .
En Estados Unidos, los estudiantes pueden acceder a esta tecnología a través de los Chromebooks , es decir, ordenadores de bajo coste. Aunque su escuela había bloqueado a otras IA como Gemini o ChatGPT , sí pudo usar la IA del motor de búsqueda de Google , que no planea desactivar esta función por defecto para los estudiantes.
“Las escuelas deberían desactivar la búsqueda y mantenerla desactivada hasta que Google elimine el modo de IA de la búsqueda o garantice que cada estudiante esté siempre seguro cuando interactúe con la IA”, asegura Andrew Liddell , abogado de la familia.
La escuela alerta a los padres y encuentran una carta de despedida
La demanda que explica que Emma pasó de tener notas excelentes, tocar música y ser parte de las Girls Scouts a, en pocos meses y por medio del uso de la IA, entrar en una “silenciosa espiral” por medio de una grave crisis psicológica , a pesar de que no tenía antecedentes de ello.
El software empleado por la escuela para monitorizar y rastrear encontró un documento llamado ‘Funeral’ y rápidamente se avisó a los padres, que pudieron ver en tiempo real cómo su hija estaba escribiendo una carta de despedida al iniciar sesión con la cuenta de su hija. “Estamos revisando las alegaciones de la demanda y nos tomamos esto muy en serio”, ha explicado Jose Castaneda , portavoz de Google, a la que se acusa de no tener las protecciones suficientes para impedir este tipo de casos.
