California endurece las reglas para redes sociales y chatbots usados por menores
Índice de contenidos
Claves de la noticia
- Las grandes plataformas podrían afrontar hasta un millón de dólares por menor cuando una conducta negligente cause daños graves.
- La norma restringe los feeds considerados adictivos para menores de 16 años y amplía obligaciones de diseño y advertencia.
- Los servicios de chatbot deberán evaluar riesgos para niños antes de desplegar cambios con impacto material.
California aprueba nuevas obligaciones para proteger a menores en plataformas sociales y asistentes de inteligencia artificial, con límites a los feeds adictivos, evaluaciones de riesgo y sanciones civiles elevadas.
Tres vías para trasladar el riesgo a las plataformas
California ha aprobado un paquete que combina responsabilidad civil, restricciones de diseño y revisión preventiva de sistemas de inteligencia artificial. Associated Press informa de que las grandes redes sociales podrán responder con sanciones de hasta un millón de dólares por cada menor cuando una actuación negligente cause daños graves. Otra medida limita los feeds adictivos para usuarios de menos de 16 años, mientras que los operadores de chatbots deberán realizar evaluaciones de riesgo infantil antes de lanzar determinadas funciones. No es una única prohibición, sino tres mecanismos que actúan en momentos distintos.
La responsabilidad se aplica después de un daño; el límite de diseño intenta reducirlo durante el uso; la evaluación obliga a anticiparlo antes del despliegue. Esa secuencia corrige una debilidad habitual de la regulación digital, que suele llegar cuando una práctica ya está extendida. También crea preguntas difíciles: cómo demostrar causalidad entre una interfaz y un perjuicio, qué patrón convierte un feed en adictivo y qué cambio es suficientemente importante para exigir una nueva evaluación. Los tribunales y reglamentos tendrán que convertir conceptos amplios en pruebas repetibles.
Un feed no es solo una lista de publicaciones
Los sistemas de recomendación deciden qué aparece, en qué orden y con qué velocidad se renueva. La misma plataforma puede ofrecer una cronología solicitada por el usuario o una secuencia optimizada para retener atención. Regular el segundo patrón pone el foco en el mecanismo, no únicamente en el contenido. Meta ha cuestionado la restricción, según AP, y la industria previsiblemente argumentará que una definición demasiado amplia puede bloquear recomendaciones útiles o vulnerar protecciones constitucionales en Estados Unidos.
La verificación de edad añade otra tensión. Para ofrecer una experiencia distinta a menores, una plataforma necesita estimar o conocer la edad; pedir documentos a todos puede aumentar la recopilación de datos sensibles. El incidente de IDScan publicado esta misma jornada ilustra ese coste indirecto. Una implementación proporcionada debería favorecer señales locales, rangos de edad y credenciales que prueben un atributo sin entregar una copia completa del documento. Proteger a un menor de un algoritmo no debería crear un archivo central con su identidad.
Los controles parentales complementan el diseño, pero no trasladan toda la responsabilidad de seguridad a las familias.
Los chatbots entran en la fase de evaluación previa
California ya había establecido advertencias, recordatorios y protocolos frente a autolesiones para chatbots de compañía. El nuevo paso descrito por AP exige que las empresas valoren riesgos antes de introducir productos o cambios relevantes para niños. La obligación puede incluir pruebas de conversaciones prolongadas, dependencia emocional, contenido sexual, consejos peligrosos y fallos al reconocer una crisis. Publicar al menos una metodología y un resumen permitiría comprobar que la evaluación no fue un formulario interno sin consecuencias.
Un chatbot generativo produce respuestas diferentes ante variaciones pequeñas, por lo que una batería fija de preguntas no basta. Hace falta combinar pruebas automáticas, revisión humana y seguimiento posterior al lanzamiento. También conviene medir si las salvaguardas funcionan en varios idiomas: un sistema seguro en inglés puede responder de otra manera en español o con jerga adolescente. El enfoque californiano puede empujar a los proveedores globales a construir controles comunes, aunque legalmente solo opere dentro del estado.
Por qué la norma importa fuera de California
California concentra grandes plataformas y desarrolladores, y sus requisitos suelen influir en productos distribuidos en otros mercados. Mantener versiones distintas por jurisdicción cuesta dinero y complica las pruebas, de modo que una empresa puede extender el diseño más restrictivo. Sin embargo, no está garantizado: los servicios pueden geolocalizar funciones, retrasar lanzamientos o impugnar obligaciones. El efecto real dependerá de la fecha de entrada en vigor, la reglamentación y las decisiones judiciales, no solo de la firma política.
En la Unión Europea ya existen deberes para plataformas muy grandes y reglas específicas sobre menores, privacidad y sistemas de IA. La comparación útil no consiste en copiar la cifra de la multa, sino en observar si California consigue vincular evaluación, diseño y reparación. Si las demandas aclaran qué evidencia demuestra un daño, el modelo ofrecerá una señal exportable. Si cada caso se atasca en causalidad o verificación de edad, mostrará el límite de exigir resultados sin definir un método técnico compatible con la privacidad. La aplicación práctica será tan importante como el texto aprobado.
