California declara la guerra a las redes sociales: veta las funciones adictivas para los menores de 16 años
El gobernador firma una batería de leyes que limita el 'autoplay' y los contenidos seleccionados por algoritmos y endurece también el control sobre los 'chatbots' de inteligencia artificial que interactúan con adolescentes
California ha decidido poner límites al diseño de las redes sociales y a algunas de las aplicaciones de inteligencia artificial que utilizan los menores. El gobernador Gavin Newsom ha firmado un nuevo paquete de leyes que prohíbe a las plataformas ofrecer determinadas funciones consideradas adictivas a los menores de 16 años, al tiempo que introduce nuevas obligaciones para los servicios de IA que funcionan como compañeros virtuales.
La nueva normativa sitúa en el punto de mira algunos de los mecanismos que las plataformas utilizan para mantener a los usuarios conectados durante más tiempo. Entre ellos se encuentran la reproducción automática de contenidos ('autoplay') y los 'feeds' personalizados mediante algoritmos que seleccionan qué mostrar a cada usuario en función de su historial, comportamiento y perfil.
Con esta legislación, California vuelve a situarse a la vanguardia de Estados Unidos en materia de protección de niños y adolescentes frente a los efectos potencialmente perjudiciales de las nuevas tecnologías.
Los algoritmos, en el punto de mira
Uno de los principales objetivos de la nueva regulación es intervenir directamente sobre el diseño de las plataformas. Para los menores de 16 años, las redes sociales tendrán que limitar determinadas herramientas capaces de encadenar contenidos automáticamente o seleccionar publicaciones de manera personalizada con el objetivo de prolongar la navegación.
El 'autoplay', por ejemplo, permite que un vídeo comience inmediatamente después de terminar el anterior sin que el usuario tenga que realizar ninguna acción. La legislación considera especialmente relevante este tipo de mecanismos dentro de una estrategia destinada a reducir los patrones de uso potencialmente adictivos entre los adolescentes.
La medida amplía las restricciones aprobadas hace dos años por California. En 2024, Gavin Newsom ya había firmado una ley destinada a impedir que las plataformas proporcionasen a los menores determinados 'feeds' considerados adictivos sin consentimiento parental, además de limitar algunas notificaciones durante el horario escolar y por la noche. Ahora, el estado da un paso más y pone el foco no solo en el contenido que consumen los menores, sino también en cómo están diseñadas las propias plataformas para captar y mantener su atención.
California también pone límites a los ‘amigos’ virtuales de IA
La nueva legislación no se queda en las redes sociales. Los 'chatbots' de inteligencia artificial diseñados para mantener conversaciones continuadas con menores también estarán sometidos a nuevas reglas.
Una de las normas más destacadas es la denominada 'Adam's Law' , bautizada en memoria de Adam Raine. La legislación establece nuevas garantías para los llamados 'companion chatbots', sistemas de IA concebidos para conversar con los usuarios y establecer con ellos una relación continuada. Las empresas deberán disponer de protocolos específicos para responder ante posibles expresiones de ideación suicida o autolesiones por parte de menores, además de incorporar controles parentales y comunicar determinados cambios en sus medidas de seguridad.
La norma introduce además una medida especialmente relevante: las compañías que ofrecen estos servicios tendrán que someterse a auditorías independientes de seguridad infantil y realizar evaluaciones anuales de riesgos. El objetivo es evitar que los llamados compañeros virtuales puedan generar dinámicas perjudiciales para los adolescentes o terminar sustituyendo, en determinados casos, sus relaciones humanas sin que existan mecanismos suficientes de protección.
Más restricciones para proteger a los menores en internet
El paquete legislativo firmado por Newsom también amplía la protección frente a otras amenazas digitales. California incorpora nuevas medidas contra determinados contenidos sexualmente explícitos generados o modificados mediante inteligencia artificial cuando representan a menores de 18 años.
La normativa incluye asimismo nuevas disposiciones relacionadas con la privacidad infantil, la publicidad dirigida a menores y el tratamiento de los datos de estudiantes utilizados por sistemas de inteligencia artificial. El conjunto de medidas consolida así la estrategia de California para convertirse en uno de los principales referentes legislativos de Estados Unidos en la protección de los menores frente a las nuevas tecnologías.
El precedente de Meta y la presión sobre las redes sociales
La ofensiva californiana llega además después del acuerdo alcanzado por Meta con fiscales generales de 52 estados y territorios estadounidenses, que puso fin a una parte de las demandas que acusaban a la compañía de diseñar sus plataformas para favorecer comportamientos adictivos entre los menores.
El acuerdo contempla que Meta pueda llegar a pagar hasta 18.000 millones de dólares y establece diferentes cambios en el funcionamiento de sus servicios. Entre ellos figuran límites al tiempo de utilización de las plataformas por parte de adolescentes, restricciones durante la noche, sistemas de verificación de edad y un refuerzo de los controles parentales.
Con estas nuevas leyes, California eleva todavía más la presión sobre las grandes plataformas tecnológicas y plantea una cuestión que empieza a ganar peso en Estados Unidos: si las redes sociales y los sistemas de inteligencia artificial están diseñados para captar nuestra atención, hasta dónde debe llegar la regulación cuando quienes están al otro lado de la pantalla son menores.
