Carlos B Fernández. El pasado 12 de agosto la Administración China del Ciberespacio hizo pública la primera lista de algoritmos utilizados por treinta de las principales empresas tecnológicas del país.
Se trata de una de las consecuencias más relevantes de la entrada en vigor, en marzo de este año, de la ley china sobre algoritmos de recomendación en Internet. Una norma que incluye, entre las obligaciones que establece para las empresas que utilicen este tipo de algoritmos, la de registrarlos ante la Administración.
La lista incluye detalles sobre la tecnología subyacente que impulsa las aplicaciones de las mayores empresas de Internet de China, como el gigante del comercio electrónico Alibaba, la compañía de medios sociales y propietaria de TikTok, Bytedance, el gigante de la distribución Meituan, u otras como Xiaomi, Baidu o Tencent.
En concreto, se incluye información sobre el tipo de algoritmo utilizado y su función, según una clasificación en cinco categorías, que incluyen la personalización y promoción de contenidos; la búsqueda y el filtro de información; la clasificación y características de los contenidos, la toma de decisiones de envío y la generación y síntesis de contenidos.
Según informa Jane Zhang en la edición europea de las noticias sobre tecnología de Bloomberg, con la nueva normativa China, que incluye, además de la ley anteriormente citada, las también recientes leyes de Protección de la Información Personal y de Seguridad de los Datos, el país ha endurecido la normativa para frenar la expansión, antes incontrolada, de los gigantes tecnológicos del país.
Esta misma analista precisa que si bien algunos observadores temen que la CAC haya tenido acceso al código fuente de los algoritmos, lo que hace temer que Pekín conozca la "salsa secreta" de aplicaciones populares como TikTok, parece que por ahora la Administración del Ciberespacio de China sólo exige una información mucho más superficial, como descripciones en 200 caracteres de sus algoritmos e información sobre los datos utilizados para entrenarlos. Aunque la lista comprende actualmente 30 algoritmos, está previsto que se amplíe a medida que más empresas registren sus algoritmos en la CAC.
En general, se considera que los algoritmos de recomendación basados en la inteligencia artificial son secretos comerciales muy valiosos, que han llegado a gobernar muchas partes de la vida cotidiana en China, determinando los vídeos que la gente ve, los productos que compran y las rutas que siguen los repartidores de comida.
Por ejemplo, ByteDance afirma que su algoritmo discierne los gustos de los usuarios para recomendarles contenidos en aplicaciones como la plataforma de vídeos cortos Douyin, la prima china de TikTok. Meituan afirma que sus algoritmos ayudan a despachar los pedidos de comida a los usuarios de la manera más eficiente en función de su tiempo de inactividad y de la ruta de entrega.
Y la propia TikTok, que sólo opera fuera de China, no está obligada a compartir detalles con la CAC. En todo caso, las autoridades chinas pueden pedir más detalles para investigar posibles denuncias de violación de datos.
De acuerdo con la normativa, las empresas también deben presentar información no pública a la CAC, incluida una autoevaluación sobre la seguridad de los algoritmos, los datos que recogen, si estos abarcan información biométrica o de identidad sensible, y qué fuentes de datos se utilizan para entrenar los algoritmos.
Por ello, expertos citados por Zhang, como Zhai Wei, director ejecutivo del Centro de Investigación de Derecho de la Competencia de la Universidad de Ciencias Políticas y Derecho de China Oriental en Shanghai, destacan que "la información proporcionada por las empresas a la CAC es mucho más detallada que la publicada con seguridad, y eso implica algunos secretos comerciales, que no es posible hacer públicos". En todo caso, destaca este experto, "Nadie había tenido acceso a tales detalles antes".
Por su parte, el analista tecnológico Kevin Xu, destaca en su blog "Interconnected" que este anuncio es muy relevante, porque marca la primera vez que un organismo regulador importante ha obtenido acceso a los algoritmos que impulsan los productos tecnológicos dentro de su jurisdicción.
La mayoría de estos casos de uso están relacionados con la forma en que los usuarios ordinarios de Internet encuentran la información y están influenciados por la forma en que los algoritmos empujan o clasifican cierta información sobre otras. No es de extrañar que los reguladores se interesen por cómo se aplican los algoritmos en estas situaciones. La "generación y síntesis de contenidos" destaca como un ángulo de preocupación que tiene el gobierno para entender (y prevenir) los contenidos falsos generados por algoritmos o "deepfake".
Este analista llama la atención también sobre el hecho de que ahora que la CAC tiene información sobre el algoritmo de personalización de Douyin, también tiene efectivamente el algoritmo de TikTok. Aunque TikTok es una entidad estadounidense que no tiene que responder ante la CAC, es bien sabido que ByteDance comparte sus algoritmos como middleware en toda su familia de aplicaciones: la salsa secreta de Douyin es también la salsa secreta de TikTok. La implicación para TikTok de que el CAC tenga información sobre su algoritmo podría tener bastantes consecuencias para su futuro en EE.UU., donde su fiabilidad y reputación se han ido deteriorando.
Este requisito de divulgación diferencia a China de países como Estados Unidos, donde Meta Platforms Inc. y Alphabet Inc. han argumentado con éxito que los algoritmos son secretos comerciales, incluso cuando los legisladores y los activistas tratan de entender mejor cómo curan el contenido y gestionan los datos (La UE está intentando hacer lo mismo).