La UE valora la conveniencia de la apertura de negociaciones para un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y estado de derecho (14 octubre 2022)
- 3-11-2022 | Unión Europea
- En su dictamen publicado el 13 de octubre de 2022, el Supervisor Europeo de Protección de Datos (SEPD) acoge positivamente la apertura de negociaciones para un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y estado de derecho. El SEPD considera que el Convenio es una oportunidad importante para complementar la Ley de Inteligencia Artificial propuesta por la Comisión Europea reforzando la protección de los derechos fundamentales de las personas, como los derechos a la privacidad y a la protección de datos personales.
Con este fin, la SEPD hace las siguientes recomendaciones clave sobre las directivas de negociación de la UE para la Convención.
- — Los objetivos generales deben priorizar las garantías y los derechos que se brindarán a las personas y grupos de personas que puedan verse afectados por el uso de los sistemas de IA. Para garantizar la protección de las personas y sus derechos, las directivas de negociación deben aspirar a la coherencia del Convenio con el marco jurídico existente de la UE sobre protección de datos .
- — El SEPD opina que deben prohibirse los sistemas de IA que planteen riesgos inaceptables para las personas . Más específicamente, el uso de la IA para: la puntuación social de las personas; identificación biométrica de personas en espacios de acceso público; la categorización de las personas sobre la base de sus datos biométricos (por ejemplo, su origen étnico); la categorización de las personas según sus emociones percibidas debería prohibirse por defecto. También deberían prohibirse los sistemas de IA que afecten los derechos de las personas a la dignidad humana en general. Estas condiciones también deberían incluirse explícitamente en las directrices de negociación.
- — Resulta esencial monitorear el uso de los sistemas de IA, cómo funcionan estos sistemas, el riesgo que conllevan. El SEPD recomienda que las directrices de negociación apunten a proporcionar garantías procesales mínimas para proteger a las personas que puedan verse afectadas por el uso de sistemas de IA. Estas salvaguardas deben garantizar que el uso de los sistemas de IA sea transparente, se pueda explicar claramente a las autoridades de supervisión y a las personas, y se pueda auditar regularmente para limitar los riesgos que tales herramientas puedan presentar. También deben establecerse mecanismos de cumplimiento y control, así como cooperación transfronteriza entre las autoridades competentes diseñados por las partes del Convenio, para supervisar el uso de la IA y proteger a las personas y sus derechos fundamentales.