Carlos B Fernández. El Consejo de la Unión Europea ha autorizado a la Comisión a la apertura de negociaciones en nombre de la Unión Europea con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (Decisión (UE) 2022/2349 del Consejo de 21 de noviembre de 2022 (LA LEY 25049/2022), publicada en el DOUE de 2 de diciembre).
Se tratará del primer instrumento internacional jurídicamente internacional jurídicamente vinculante sobre inteligencia artificial.
Previsiblemente, el futuro convenio establecerá normas internacionales rigurosas en lo que se refiere a la reglamentación de la IA que afecta a los derechos humanos, al funcionamiento de los sistemas democráticos y al respeto del Estado de Derecho, en particular a la luz de la labor ya realizada por el Consejo de Europa en ese ámbito.
Sin embargo, la Unión ya ha adoptado normas comunes que se verán afectadas por los elementos que se prevé incluir en el convenio. En particular, dichos elementos incluyen un conjunto completo de normas sobre el mercado único aplicables a los productos y servicios para los que pueden utilizarse sistemas de IA, así como normas de Derecho derivado de la Unión por las que se aplica la Carta de los Derechos Fundamentales de la Unión Europea (LA LEY 12415/2007), teniendo en cuenta que es probable que esos derechos se vean negativamente afectados en determinadas circunstancias por el desarrollo y la utilización de determinados sistemas de IA.
Y, destacadamente, como es sabido, el 21 de abril de 2021, la Comisión presentó una propuesta legislativa de Reglamento por el que se establecen normas armonizadas en materia de IA, que está siendo negociada actualmente por el Parlamento Europeo y el Consejo.
Por ello, resulta que el ámbito de aplicación previsto para el convenio y el de dicha propuesta de Reglamento se superponen en gran medida, ya que ambos instrumentos tienen por objeto establecer normas aplicables a la concepción, al desarrollo y a la aplicación de sistemas de IA proporcionados y utilizados por entidades públicas o privadas.
Por consiguiente, la celebración del convenio puede afectar a normas comunes de la Unión, vigentes y futuras, o alterar su alcance en el sentido del artículo 3, apartado 2, del Tratado de Funcionamiento de la Unión Europea (TFUE) (LA LEY 6/1957).
En consecuencia, el Consejo considera que deben entablarse negociaciones con miras a la celebración del convenio en lo que respecta a los ámbitos que sean competencia exclusiva de la Unión a fin de proteger la integridad del Derecho de la Unión y de garantizar que se mantenga la coherencia entre las normas del Derecho internacional y del Derecho de la Unión.
Dado que todos los Estados miembros de la UE son también miembros del Consejo de Europa, los Estados miembros que participen en las negociaciones del convenio deben, de conformidad con el principio de cooperación leal a que se refiere el artículo 4, apartado 3, del TUE, apoyar, con pleno respeto mutuo, al negociador de la Unión en el cumplimiento de las misiones derivadas de los Tratados.
Antecedentes
En 2021, el Comité de Ministros del Consejo de Europa estableció un Comité sobre Inteligencia Artificial (CAI) para el período 2022-2024, encargado de establecer un proceso de negociación internacional que permita elaborar un marco jurídico para el desarrollo, la concepción y la aplicación de la inteligencia artificial (IA), basado en las normas del Consejo de Europa en materia de derechos humanos, democracia y Estado de Derecho y que favorezca la innovación.
El 30 de junio de 2022, el Comité de Ministros del Consejo de Europa encargó al CAI que prosiguiera con celeridad los trabajos para la elaboración de un instrumento jurídicamente vinculante sobre IA, de carácter transversal, bien un convenio o bien un convenio marco, basado en las normas del Consejo de Europa en materia de derechos humanos, democracia y Estado de Derecho, en consonancia con su mandato, centrado en principios comunes generales, favorable a la innovación y abierto a la participación de terceros Estados, además de tener en cuenta los demás marcos jurídicos internacionales pertinentes, vigentes o en desarrollo.
Posteriormente, la presidencia del CAI propuso un borrador preliminar de un convenio o convenio marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (Council of Europe Ad hoc Committee on Artificial Intelligence (CAHAI) - Possible elements of a legal framework on artificial intelligence, based on the Council of Europe’s standards on human rights, democracy and the rule of law).
Dicho borrador preliminar contiene disposiciones sobre la finalidad, el objeto y el ámbito de aplicación del instrumento, las definiciones y los principios fundamentales, incluidas las garantías procedimentales y los derechos aplicables a todos los sistemas de IA, independientemente de su nivel de riesgo, medidas adicionales para los sistemas de IA del sector público y para los sistemas de IA que planteen niveles de riesgo «inaceptables» y «significativos», así como un mecanismo de seguimiento y cooperación, disposiciones finales, que prevén la posibilidad de que la Unión se adhiera a dicho tipo de convenio, y un anexo, en fase de elaboración, sobre una metodología para la evaluación de riesgos y la evaluación de impacto de los sistemas de IA.
El Supervisor Europeo de Protección de Datos apoya la propuesta
En su Dictamen 20/2022, de 13 de octubre pasado (Opinion 20/2022 on the Recommendation for a Council Decisionauthorising the opening of negotiations on behalfof the European Union for a Council of Europeconvention on artificial intelligence, humanrights, democracy and the rule of law), el Supervisor Europeo de Protección de Datos (SEPD) se ha mostrado favorable al objetivo general de esta propuesta, “teniendo en cuenta la naturaleza "transfronteriza" de la inteligencia artificial”.
En consecuencia, el SEPD apoya la apertura de negociaciones en negociaciones en nombre de la Unión para la convención, y acoge con satisfacción el papel de la Unión en la promoción de una IA digna de confianza que sea coherente con los principios de la Unión. que sea coherente con los valores de la Unión.
El SEPD considera que el Convenio representa una importante oportunidad de complementar la propuesta de Ley sobre la AI reforzando la protección de los derechos fundamentales de todas las personas afectadas por los sistemas de inteligencia artificial y, por consiguiente, aboga por que la convención proporcione salvaguardias claras y sólidas para las personas afectadas por el uso de sistemas de IA.
En su Dictamen, el SEPD formula cuatro recomendaciones principales sobre las directrices de negociación:
- Los objetivos generales para la negociación del convenio deberían dar más relieve a las salvaguardias y derechos que deben proporcionarse a las personas -y grupos de personas- sometidas a sistemas de IA, en consonancia con el enfoque y los objetivos primordiales del Consejo de Europa;
- Debería incluirse en una directiva específica una referencia explícita a la conformidad del convenio con el marco jurídico vigente de la UE en materia de protección de datos;
- En consonancia con el enfoque basado en el riesgo, debe introducirse el objetivo de imponer una prohibición a los sistemas de IA que planteen riesgos inaceptables;
- El convenio debería promover la adopción de un enfoque de protección de datos desde el diseño y por defecto en cada etapa del ciclo de vida de los sistemas de IA.
Además, el dictamen ofrece otras recomendaciones sobre la inclusión en el convenio de garantías mínimas de procedimiento, así como requisitos mínimos de transparencia explicabilidad y auditabilidad, mecanismos de cumplimiento y control, sobre cooperación transfronteriza entre las autoridades competentes que designen las partes del convenio para la supervisión de las salvaguardias y los derechos que deben proporcionarse de conformidad con el convenio.