Carlos B Fernández. El Parlamento Europeo, fiel a su reiterada preocupación por los derechos de los consumidores europeos, ha aprobado una Resolución, de fecha 20 de mayo de 2021, sobre la configuración del futuro digital de Europa y la mejora del uso de la inteligencia artificial para los consumidores europeos (2020/2216(INI))
En un extenso documento, estructurado en dos partes acordes con su título, pero elaborado con la misma caótica acumulación de materias que es habitual en muchos documentos europeos de este tipo, la eurocámara recuerda los que son sus principales postulados en relación con el uso de la UA.
En concreto, en su parte 2 (“Mejora del uso de la IA para los consumidores europeos”, recoge en cincuenta y ocho epígrafes (del 35 al 93), una multiplicidad de aspectos, de los que reseñamos los siguientes:
Necesidad de un marco regulador para la IA
En primer lugar, el Parlamento Europeo reconoce que, aunque existe ya un número significativo de normas, es necesario promover y desarrollar en mayor medida unas normas comunes para la IA, como las aplicables a los componentes y a las aplicaciones completas.
Por ello pide a la Comisión que regule de forma exhaustiva las tecnologías de IA para evitar un uso injusto o abusivo de dichos sistemas. Este marco regulador debe tener como objetivo la creación de un mercado interior de productos, aplicaciones y servicios basados en la IA que resulten fiables y seguros, algo que debe hacerse sobre la base del artículo 114 del Tratado de
Funcionamiento de la Unión Europea.
El Parlamento expresa su firme creencia de que las nuevas evaluaciones y requisitos normativos deben ser comprensibles y aplicables, y han de incorporarse a los requisitos específicos por sector que ya existen siempre que resulte posible, así como mantener unas cargas administrativas proporcionadas.
Esta regulación no debería limitarse al ámbito europeo, por lo que pide que la Unión trabaje más estrechamente con sus socios (por ejemplo en el seno de la Organización de Cooperación y Desarrollo Económicos y de la Organización Mundial del Comercio), para establecer normas mundiales en materia de IA, a fin de reducir las barreras comerciales y promover una IA fiable en consonancia con los valores de la Unión.
En este sentido, el Parlamento expresa su apoyo a la cooperación en materia de normas internacionales y otros tipos de cooperación entre los países de la OCDE en relación con la economía digital, incluida la Asociación Mundial para la Inteligencia Artificial.
Además, anima a la Unión a que intensifique su labor con las Naciones Unidas y los organismos internacionales de normalización sobre esta cuestión.
Y puesto que considera que la Unión debe promover normas digitales que sean coherentes con los principios democráticos, los derechos humanos y el desarrollo sostenible, apoya la propuesta de crear el Consejo Unión Europea - Estados unidos de Comercio y Tecnología y la labor en pos de un acuerdo transatlántico sobre IA con el fin de lograr un consenso más sólido y amplio sobre los principios de una inteligencia artificial ética y la gobernanza de los datos. Este acuerdo transatlántico sobre IA, destaca igualmente, también debería incluir un capítulo dedicado a la seguridad de los datos y a la protección de los datos de los usuarios y los consumidores con objeto de garantizar la protección de las normas de la Unión. Por todo ello pide a la Comisión que siga colaborando con los Estados Unidos, Japón y otros socios afines en la reforma de las normas de la OMC sobre las subvenciones, las transferencias forzosas de tecnología y las empresas estatales, entre otras. Señala la especial importancia que reviste la cooperación con el Reino Unido, que desempeña un papel crucial en la economía digital mundial.
Derechos de los consumidores en relación con la IA
El PE subraya el derecho de los consumidores a ser informados adecuadamente y de manera oportuna y fácilmente accesible sobre la existencia y los posibles resultados de los sistemas de IA, y sobre cómo pueden comprobarse, impugnarse de manera útil y corregirse las decisiones del sistema.
Por ello, pide que, cuando los consumidores estén interactuando con sistemas de IA, se les informe obligatoriamente de ello.
En este sentido, considera también que la explicabilidad y la transparencia son cruciales para obtener y conservar la confianza de los usuarios en los sistemas de IA, y esto significa que los procesos tienen que ser transparentes, que las capacidades y el propósito de los sistemas de IA tienen que comunicarse abiertamente y que las decisiones deben poder explicarse a las personas directamente afectadas.
Destaca igualmente la importancia de que los algoritmos sean transparentes con el fin de proteger plenamente los derechos fundamentales.
Conveniencia de utilizar entornos de prueba controlados
El Parlamento pide a la Comisión y a los Estados miembros que se sirvan de herramientas reguladoras innovadoras, como los «espacios controlados de pruebas» acordes con el principio de precaución, para facilitar la provisión de una vía clara de expansión para empresas emergentes y pequeñas empresas. La creación de un entorno coherente para realizar pruebas innovadoras y validar productos basados en tecnologías como la IA ayudará a que las empresas europeas superen la fragmentación del mercado único y aprovechen el potencial de crecimiento en toda la Unión.
Responsabilidad por el uso de sistemas de IA
El documento destaca varias veces a lo largo de su redacción que, habida cuenta de las importantes consecuencias tanto en el plano ético como en el jurídico del uso de estos sistemas, es necesario que los legisladores estudien la compleja cuestión de la responsabilidad, en particular la relativa a daños personales y materiales, añadiendo que, en todas las aplicaciones de IA, la responsabilidad debe recaer siempre en una persona física o jurídica.
Por ello solicita a la Comisión que actualice el marco vigente en materia de responsabilidad civil y seguridad de los productos con el fin de abordar los nuevos retos que plantean tecnologías digitales emergentes como la IA.
En este sentido, insta a la Comisión a que actualice, entre otras cosas, la Directiva relativa a la seguridad general de los productos y la Directiva relativa a la responsabilidad por los daños causados por productos defectuosos, en particular considerando invertir el concepto de «carga de la prueba» por los daños causados por las tecnologías digitales emergentes, en casos claramente definidos y tras una evaluación adecuada, y adaptar los términos «producto», «daño» y «defecto» de modo que reflejen la complejidad de las tecnologías emergentes, incluidos los productos con IA, internet de las cosas y robótica incorporados, los programas autónomos y los programas o actualizaciones que impliquen importantes modificaciones del producto que se traducen, de facto, en un producto nuevo.
Aplicaciones de IA de alto riesgo
El Parlamento Cree que el alcance de los nuevos requisitos normativos debe graduarse de manera que las aplicaciones de IA respecto de las que, en su contexto específico, se considere que plantean el riesgo más elevado se sometan a los requisitos normativos y los controles más estrictos, incluida la posibilidad de prohibir prácticas dañinas o discriminatorias.
En concreto, expresa su creencia en que el uso de la IA en un contexto de alto riesgo debe limitarse a fines específicos, de plena conformidad con la legislación aplicable y las obligaciones en materia de transparencia. Por ello pide a la Comisión que considere detenidamente si existen determinados casos de utilización, situaciones o prácticas para los que deban adoptarse normas técnicas específicas, incluidos algoritmos subyacentes. En tales casos, considera necesario, que tales normas técnicas se adopten, que estas sean revisadas periódicamente por las autoridades competentes y se reevalúen, dada la rapidez del desarrollo tecnológico.
Por ello, pide a la Comisión que desarrolle una metodología objetiva para estimar el riesgo de daños, que complemente los instrumentos que ya existen en la legislación vigente en materia de protección de los consumidores. Esta metodología debe evitar un enfoque restrictivo y binario que pueda devenir rápidamente obsoleto, y debe centrarse, en cambio, en el contexto, la aplicación y el uso específico de la IA. Por ejemplo, considerara que la manera más eficaz de reducir los sesgos es garantizar la calidad de los conjuntos de datos utilizados para entrenar los sistemas de IA.
Etiquetado sobre fiabilidad de la IA
El Parlamenteo considera que, una vez estén en vigor normas jurídicas y mecanismos de control del cumplimiento claros, podría plantearse la adopción de una etiqueta voluntaria sobre fiabilidad para la IA, pues considera que dicha etiqueta podría mejorar la transparencia de la tecnología basada en la IA.
Este sistema de etiquetado, subraya, debe resultar comprensible para los consumidores y demostrar que aporta una ventaja mensurable en cuanto al conocimiento de las aplicaciones de IA conformes por parte de los consumidores, lo que les permitirá tomar una decisión con conocimiento de causa, ya que, de lo contrario, no logrará un nivel suficiente de adopción para su uso en situaciones reales.
Sin embargo, advierte también, es importante, tener en cuenta, al mismo tiempo, que la asimetría de la información inherente a los sistemas de aprendizaje algorítmicos complica en extremo el cometido de los sistemas de etiquetado.
Marco jurídico de las tecnologías de registro distribuido
Finalmente, destacomos que la eurocámara pide también a la Comisión que analice el desarrollo y el uso de las tecnologías de registros descentralizados, en particular las cadenas de bloques, y más concretamente los contratos inteligentes en el mercado único digital, y que proporcione orientaciones y considere la creación de un marco jurídico apropiado a fin de garantizar la seguridad jurídica para las empresas y los consumidores, en especial en torno a las cuestiones de la legalidad, la ejecución de los contratos inteligentes en situaciones transfronterizas y los requisitos de certificación notarial en su caso.