Carlos B Fernández.— El pasado uno de marzo de este año 2022 entró en vigor la Ley de la República Popular China que establece disposiciones para la gestión de los algoritmos de recomendación para servicios de información de Internet, que había sido aprobada a finales de 2021, tras haber sido sometida a un proceso de consulta del que informamos en estas páginas.
El objetivo de la norma es regular las recomendaciones personalizadas realizadas a los usuarios de Internet, estableciendo una serie de derechos de los usuarios, en particular los pertenecientes a grupos vulnerables, como los menores o los ancianos. Pero entre sus finalidades se incluye también, de manera relevante, salvaguardar la seguridad nacional en China, así como el interés social y público.
Esas recomendaciones son realizadas por una mayoría de proveedores de servicios y se refieren a recomendaciones de contenido basadas en las publicaciones anteriores que les han gustado, su perfil demográfico y/o su ubicación geográfica, utilizando para ello un algoritmo.
Según diversos analistas, esta norma podría tener amplias implicaciones para los proveedores de servicios de internete, los usuarios y el equilibrio entre la autonomía de los usuarios y la seguridad nacional, así como procesales.
Finalidad de la norma
La versión final de la norma consta de 35 artículos agrupados en seis capítulos: disposiciones generales; normas aplicables a los sistemas de información; protección de los derechos de los usuarios; supervisión y gestión; responsabilidad y disposiciones adicionales.
Según su artículo 1, su finalidad es “normalizar las actividades de recomendación algorítmica de los servicios de información de Internet, llevar adelante la visión de los valores centrales socialistas, salvaguardar la seguridad nacional y el interés social y público, proteger los derechos e intereses legítimos de los ciudadanos, las personas jurídicas y otras organizaciones, estimulando el sano desarrollo de los servicios de información de Internet”.
A efectos de esta norma se consideran tecnologías de recomendación algorítmica las tecnologías de tipo generativo o sintético ya sean de recomendación personalizada, de clasificación y selección, de filtro de búsqueda, de envío y toma de decisiones, y otras tecnologías algorítmicas de este tipo destinadas a proporcionar información a los usuarios.
Estos servicios de recomendación algorítmica deberán cumplir con las leyes aplicables, observar la moral y la ética social, cumplir con la ética comercial y la ética profesional, y respetar los principios de equidad y justicia, apertura y transparencia, ciencia y razón, y sinceridad y confianza.
Para ello, se anima a las organizaciones sectoriales pertinentes a reforzar la autodisciplina sectorial, estableciendo estándares y normas sectoriales.
La norma se aplica en el territorio continental de la República Popular China y la interpretación de sus disposiciones dependerá de Administración china del Ciberespacio, conjuntamente con el Ministerio de industria y transformación tecnológica, el ministerio del interior y las autoridad reguladora de los mercados.
Y todo ello en el marco conjunto de otra normativa del país, como las mencionadas Leyes de Ciberseguridad y de Protección de la Información Personal, así como las de Seguridad de los Datos y de las Normas de Gestión de los Servicios de Información de Internet.
Obligaciones de los proveedores de servicios de recomendación algorítmica
El proyecto de ley recoge un amplio catálogo de obligaciones que deberán afrontar los proveedores de estos servicios de recomendación, algunas ciertamente llamativas desde el punto de vista occidental, entre otras:
1. Cumplir las leyes y reglamentos aplicables, observar la moral y la ética social, cumplir la ética comercial y la ética profesional, y respetar los principios de equidad y justicia, apertura y transparencia, ciencia y razón, y sinceridad y fiabilidad.
2. Orientar sobre los valores dominantes (entendemos que en la sociedad china), optimizar los mecanismos de los servicios de recomendación algorítmica, difundir enérgicamente energía positiva y orientar el uso de los algoritmos hacia el bien.
3. No utilizar los servicios de recomendación algorítmica para realizar actividades que perjudiquen la seguridad nacional, alteren el orden económico y el orden social, infrinjan los derechos e intereses legítimos de otras personas y otros actos de este tipo prohibidos por las leyes y los reglamentos administrativos.
4. Se prohíbe a los proveedores de estos servicios utilizar algoritmos para restringir "injustificadamente" a otros proveedores o participar en actos monopolísticos o de competencia indebida.
5. Cumplir con su responsabilidad principal en materia de seguridad algorítmica, establecer y completar sistemas de gestión para el registro de usuarios, el examen y la verificación de la difusión de información, el examen y la verificación del mecanismo algorítmico, la evaluación y el control de la seguridad, la respuesta y el tratamiento de los incidentes de seguridad, la protección de la seguridad de los datos y la protección de la información personal, etc.; formular y divulgar normas de servicio relacionadas con la recomendación algorítmica; y asignar personal especializado y apoyo técnico adecuados a la escala de los servicios de recomendación algorítmica.
En particular, según destacan Rogier Creemers, Graham Webster y Helen Toner en Digichina (https://digichina.stanford.edu), el nuevo artículo 13 establece la obligatoriedad de obtener una licencia por parte de los proveedores de servicios de recomendación algorítmica que operan en las noticias en línea, la prohibición de difundir noticias que no hayan sido publicadas por "unidades de trabajo en el ámbito determinado por el Estado" y la generación algorítmica de noticias falsas.
6. Examinar, verificar, evaluar y comprobar periódicamente los mecanismos, modelos, datos y resultados de las aplicaciones algorítmicas, etc., y no podrán establecer modelos algorítmicos que vayan en contra del orden público y las buenas costumbres, como por ejemplo inducir a los usuarios a las adicciones.
7. No podrán utilizar algoritmos para registrar falsamente a los usuarios, comerciar ilegalmente con cuentas o manipular las cuentas de los usuarios; o para obtener falsos "likes", comentarios, "reshares", navegación por páginas web, etc.; o para llevar a cabo la falsificación de flujos o el secuestro de flujos. No podrán utilizar algoritmos para blindar información, sobre-recomendar, manipular listas de temas o clasificaciones de resultados de búsqueda, o controlar términos de búsqueda o selecciones calientes y otras intervenciones de este tipo en la presentación de la información; o para llevar a cabo la auto-referenciación, la competencia indebida, la influencia en la opinión pública en línea, o la evasión de la supervisión y la gestión.
8. Deberán notificar a los usuarios de forma clara la situación de los servicios de recomendación algorítmica que prestan, y dar a conocer los principios básicos, los propósitos y motivos, los mecanismos de funcionamiento, etc., de los servicios de recomendación algorítmica de forma adecuada.
En particular, se exige a los proveedores de servicios que tengan especial cuidado en atender las necesidades de los usuarios mayores, sobre todo para la prevención del fraude. Igualmente, se establece que los prestadores de servicios de recomendación algorítmica no podrán dirigir hacia los menores información que pueda incitarles a imitar conductas inseguras, o actos que atenten contra la moral social, o que le conduzcan a tendencias nocivas o que puedan influir de otro modo en su salud física y mental; y no podrán utilizar los servicios de recomendación algorítmica para conducir a los menores a la adicción en línea.
9. Deberán ofrecer a los usuarios la opción de no dirigirse a sus características individuales, o proporcionar a los usuarios una opción conveniente para desactivar los servicios de recomendación algorítmica. Cuando los usuarios opten por desactivar los servicios de recomendación algorítmica, el proveedor de servicios de recomendación algorítmica dejará inmediatamente de prestar los servicios correspondientes.
10. Proporcionarán a los usuarios funciones para elegir, revisar o eliminar las etiquetas de usuario utilizadas para los servicios de recomendación algorítmica.
11. Cuando los usuarios consideren que los proveedores de servicios de recomendación algorítmica utilizan los algoritmos de manera que influyan de manera importante en sus derechos e intereses, tendrán derecho a exigir al proveedor de servicios de recomendación algorítmica que dé una explicación y adopte las medidas correspondientes para mejorar o remediar la situación.
12. Cuando se descubra una información ilícita, se interrumpirá inmediatamente su transmisión, se adoptarán medidas como el borrado para tratarla, se impedirá la difusión de la información y se conservarán los registros pertinentes; y se presentará un informe al departamento de ciberseguridad e informatización. Cuando se descubra información perjudicial, se tratará de acuerdo con las normas de gestión de la ecología de la información en línea.
13. Deberán reforzar la gestión de la ecología de las páginas o de la visualización de los servicios de recomendación algorítmica, establecer y perfeccionar los mecanismos de intervención manual y de elección autónoma del usuario, y presentar enérgicamente contenidos informativos que se ajusten a las orientaciones de valor de la corriente principal en segmentos clave como las primeras páginas y las pantallas principales, los términos de búsqueda más importantes, los temas seleccionados, las listas de temas, las ventanas emergentes, etc.
14. Aceptarán la supervisión social, establecerán interfaces convenientes para la presentación de quejas y denuncias, y aceptarán y tratarán rápidamente las quejas y denuncias del público. Establecerán canales y mecanismos de apelación de los usuarios, para estandarizar la gestión de las apelaciones de los usuarios y el suministro oportuno de comentarios, y garantizar de forma realista los derechos e intereses legítimos de los usuarios.
Las infracciones de estas obligaciones podrán sancionarse con multas de entre 10.000 y 100.000 yuanes (entre 1.250 y 10.000 euros, aproximadamente). Unas sanciones que parecen ridículas para los gigantes de internet, que facturan miles de millones de euros al año, pero que, como explica Rogier Creemers, responde a la redacción de una ley china de 1996 sobre sanciones administrativas que, previsiblemente, será objeto de actualización próximamente.
Efectos potenciales
Según destacan Lionel Lavenue, Andrew Schneider y Joseph Myles en Law.com, esta norma no solo puede suponer un nuevo obstáculo para las transmisión transfronteriza de información por los proveedores de estos servicios en China. Quizá lo más importante desde el punto de vista jurídico es que la normativa puede permitir a los litigantes chinos rechazar o retrasar la presentación de pruebas que se les soliciten por otras jurisdicciones, en particular dado el suministro de datos solicitados deben ser previamente aprobado.
En este sentido, estos expertos mencionan un caso seguido ante un tribunal federal de los Estados Unidos (In re Valsartan, Losartan, and Irbesartan Products Liability Litigation, D. N.J. 18 de diciembre de 2021), en la que la empresa demandada, con sede en China, invocó la Ley de Seguridad de los Datos y la Ley de Protección de la Información Personal, para evitar la presentación de documentos que se le habían solicitando, argumentando que los documentos en cuestión eran "secretos de Estado" (planteamiento que no fue aceptado por el juez encargado del caso, Robert B. Kugler, quien sostuvo que dichas normas no protegen la presentación de pruebas, y advirtió que los demandados chinos deben "saber desde el principio que se arriesgan a sufrir graves consecuencias si no obedecen la orden de un tribunal estadounidense de exigir la presentación de pruebas").