Carlos B Fernández. El pasado 27 de mayo, el senador Edward J. Markey y la congresista Doris Matsui, ambos del Partido Demócrata norteamericano, presentaron una propuesta de Ley de Justicia Algorítmica y Transparencia de las Plataformas Online (Algorithmic Justice and Online Platform Transparency Act 2021). La finalidad de esta norma es prohibir los algoritmos perjudiciales, aumentar la transparencia de las prácticas de amplificación y moderación de contenidos de los sitios web y encargar una investigación intergubernamental sobre los procesos algorítmicos discriminatorios en todo el conjunto de la economía.
En este contexto, se entiende por moderación de contenidos la eliminación, el etiquetado o la edición intencionada de contenidos generados por el usuario o un proceso de disminución intencionada del acceso a dichos contenidos, ya sea mediante la intervención de cualquier persona al servicio de una plataforma en línea, mediante un proceso automatizado o mediante alguna combinación de los mismos, de conformidad con las condiciones de servicio de la plataforma en línea o las normas establecidas.
Objetivos de la propuesta
Según sus impulsores, la Ley de Justicia Algorítmica y Transparencia de las Plataformas Online permitiría:
- Prohibir los procesos algorítmicos de las plataformas en línea que discriminan por motivos de raza, edad, género, capacidad y otras características protegidas.
- Establecer unos estándares de seguridad y eficacia para los algoritmos, de modo que las plataformas en línea no puedan emplear procesos automatizados que perjudiquen a los usuarios o que no tomen medidas razonables para garantizar que los algoritmos alcancen los fines previstos.
- Exigir a las plataformas en línea que describan a los usuarios, en un lenguaje sencillo, los procesos algorítmicos que emplean y la información que recogen para impulsarlos.
- Exigir a las plataformas online que mantengan registros detallados que describan sus procesos algorítmicos para su revisión por parte de la Comisión Federal de Comercio (FTC), en cumplimiento de las normas clave de privacidad y anonimización de datos.
- Exigir a las plataformas online que publiquen informes públicos anuales detallando sus prácticas de moderación de contenidos.
- Crear un grupo de trabajo interinstitucional compuesto por entidades como la FTC, el Departamento de Educación, el Departamento de Vivienda y Desarrollo Urbano, el Departamento de Comercio y el Departamento de Justicia, para investigar los procesos algorítmicos discriminatorios empleados en sectores de toda la economía.
Obligaciones de transparencia de las plataformas
De acuerdo con la propuesta, a partir de un año después de la publicación de la ley, cualquier plataforma en línea que emplee, opere o utilice un proceso algorítmico para retener, amplificar, recomendar o promover contenido (incluyendo a un grupo) a un usuario de la plataforma deberá informar al usuario, de:
i) Las categorías de información personal que recoge o crea a efectos del tipo de proceso algorítmico.
ii) La forma en que recoge o crea dicha información personal.
iii) La forma en que utiliza dicha información personal en el tipo de proceso algorítmico.
iv) El método por el cual el proceso algorítmico prioriza, asigna peso o clasifica diferentes categorías de información personal para retener, amplificar, recomendar o promover contenidos (incluyendo un grupo) a un usuario.
Todo ello con respecto a cada tipo de proceso algorítmico utilizado y mediante un lenguaje claro, accesible y no engañoso, en cada idioma en el que la plataforma en línea preste servicios.
Registro y revisión del proceso algorítmico aplicado
Adicionalmente, las plataformas en línea deberán conservar, durante 5 años, un registro que describa:
i) las categorías de datos personales utilizadas por el algoritmo
ii) el método por el que el algoritmo pondera o clasifica los datos personales que utiliza
iii) el método por el que la plataforma desarrolla su proceso algorítmico, incluyendo: a) una descripción de cualquier información personal u otros datos utilizados en dicho desarrollo; b) una explicación de cualquier información personal u otros datos utilizados para entrenar el proceso algorítmico de forma continua; y c) una descripción de las pruebas de precisión, equidad, parcialidad y discriminación a que ha sido sometido el algoritmo; y
iv) si la plataforma utiliza un proceso algorítmico relacionado con el acceso a la vivienda, educación, empleo, seguros, crédito o el acceso o las condiciones de uso de cualquier lugar de alojamiento público, una evaluación de si el algoritmo produce resultados dispares en función de la raza, el color, la etnia, el sexo, la religión, el origen nacional, el género, la identidad de género, la orientación sexual, la situación familiar, la información biométrica o la situación de discapacidad, reales o percibidos, de una persona o clase de personas. Todo excepto en el caso de las que se considera pequeña empresa (a la que se identifica como aquella que, en los 3 años naturales anteriores, haya mantenido una media anual de ingresos brutos inferior a 25.000.000 de dólares; en promedio, procese anualmente información personal de menos de 100.000 individuos, hogares o dispositivos utilizados por individuos u hogares; por término medio, obtiene el 50 por ciento o menos de sus ingresos anuales de la transferencia de información personal de particulares; y tiene menos de 50 trabajadores en cualquier en cualquier momento durante dicho período).
Premisas de la propuesta
Los proponentes explican que los algoritmos son los sistemas automatizados integrados en la infraestructura de una plataforma que determinan el contenido que los usuarios ven en línea. A menudo, esas decisiones automatizadas se basan en los datos o el comportamiento en línea del usuario, con o sin su conocimiento para ello.
Además, los algoritmos que aumentan o disminuyen la visibilidad de los contenidos en línea en las plataformas de las redes sociales y otros sitios web populares, funcionan como cajas negras, lo que dificulta que el público y los responsables políticos realicen una supervisión que permita comprobar si las empresas cumplen con sus propias políticas.
Así, se indica que aunque las investigaciones de los medios de comunicación han descubierto pruebas de que Facebook no cumplió su compromiso de dejar de utilizar sus algoritmos para recomendar grupos políticos a los usuarios antes de las elecciones de 2020, y de que la empresa tampoco retiró el contenido de un peligroso teórico de la conspiración que la plataforma había prohibido previamente, es posible que no se hayan descubierto muchos más casos.
Por otra parte, se añade, los procesos algorítmicos problemáticos no solo operan en plataformas populares que la gente utiliza a diario. A menudo, sin que el público lo sepa, las empresas dedicadas a la enseñanza superior, la selección de personal, los servicios financieros y la atención sanitaria también utilizan sistemas de automatización discriminatorios. Por tanto, el creciente uso de herramientas de inteligencia artificial que perjudican a las comunidades marginadas justifica una revisión exhaustiva de estas tecnologías y su potencial de resultados discriminatorios.
Por ello, la propuesta incluye la prohibición de los procesos algorítmicos perjudiciales en sitios web populares, que den dado lugar a la discriminación en una variedad de contextos, como son las discriminaciones por raza en los anuncios de vivienda o por razón de sexo en determinados anuncios de trabajo.