California aprobó nuevas restricciones para proteger a menores de 16 años de funciones consideradas adictivas en redes sociales, en una medida que también endurece la regulación de los chatbots de inteligencia artificial.
El gobernador Gavin Newsom promulgó este jueves un paquete de leyes que limita a las plataformas tecnológicas el uso de determinadas herramientas diseñadas para mantener a los menores conectados durante largos periodos.
Entre las restricciones se encuentran la reproducción automática de contenido y las fuentes algorítmicas personalizadas a partir del historial y perfil de los usuarios menores de 16 años.
La medida convierte a California en el primer estado de Estados Unidos en establecer este tipo de restricciones contra las funciones adictivas de las redes sociales para ese grupo de edad.
El paquete también contempla nuevas reglas para los llamados chatbots de compañía basados en inteligencia artificial, con el objetivo de establecer mayores controles cuando interactúan con menores.
Además, California avanzó en la creación de mecanismos independientes para evaluar si los sistemas y modelos de inteligencia artificial cumplen con las leyes estatales. Otra de las normas establece un registro para auditores de IA y fija estándares de independencia, transparencia e integridad.
Las medidas forman parte de una estrategia más amplia del estado para regular los riesgos asociados con el desarrollo acelerado de la inteligencia artificial. California ya ha impulsado normas relacionadas con los deepfakes, las marcas de agua digitales y la protección de menores.
El gobernador también respaldó disposiciones para que las principales empresas de IA hagan públicos sus protocolos de seguridad y para proteger la imagen digital de artistas frente al uso de representaciones generadas mediante inteligencia artificial.
La nueva regulación ocurre después de demandas contra Meta en las que se acusó a sus plataformas de diseñar funciones capaces de generar adicción entre menores. La empresa acordó pagar hasta 18 mil millones de dólares para resolver esas demandas y aplicar cambios en Instagram y Facebook.
El caso de California abre un nuevo debate sobre hasta dónde deben llegar los gobiernos para limitar el diseño de las plataformas digitales cuando sus algoritmos pueden influir en el comportamiento de niños y adolescentes.
