Carlos B Fernández.Como estaba anunciado, la Comisión Europea ha presentado una propuesta de Reglamento para la regulación armonizada de la inteligencia artificial (IA), la Unión, cuyo título oficial es Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas sobre inteligencia artificial - Ley sobre Inteligencia Artificial (Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain union legislative acts).
La propuesta consta de 85 artículos, agrupados en 13 Títulos y su objetivo es, según han destacado en el acto de su presentación la vicepresidenta Vestager y el comisario Breton, proponer nuevas normas y acciones destinadas a convertir a Europa en el centro mundial de la Inteligencia Artificial (IA) de confianza.
Cuatro niveles de sistemas inteligentes
El eje de esta propuesta es disponer en el ámbito europeo de una marco regulatorio que permita el desarrollo de IA confiable (a trustworthy AI). Para ello, se pretende que la nueva normativa se apliquen directamente y de la misma manera en todos los Estados miembros, sobre la base de una definición de la IA preparada para el futuro.
Para ello, se ha diseñado un enfoque de los sistemas de IA basado en el riesgo, según las siguientes líneas:
1. Sistemas de riesgo inaceptable:
Se prohibirán los sistemas de IA que se consideren una clara amenaza para la seguridad, los medios de vida y los derechos de las personas. Esto incluye los sistemas o aplicaciones de IA que manipulan el comportamiento humano para eludir el libre albedrío de los usuarios (por ejemplo, los juguetes que utilizan asistencia de voz y fomentan el comportamiento peligroso de los menores) y los sistemas que permiten el "scoring social" por parte de los gobiernos.
2. Sistemas de alto riesgo:
Los sistemas de IA identificados como de alto riesgo incluyen la tecnología de IA utilizada en:
- • Infraestructuras críticas (por ejemplo, el transporte), que podrían poner en riesgo la vida y la salud de los ciudadanos;
- • La formación educativa o profesional, que puede determinar el acceso a la educación y el curso profesional de alguien (por ejemplo, la calificación de los exámenes);
- • Componentes de seguridad de los productos (por ejemplo, aplicación de la IA en la cirugía asistida por robots);
- • Empleo, gestión de los trabajadores y acceso al autoempleo (por ejemplo, software de clasificación de CV para los procedimientos de contratación);
- • Servicios privados y públicos esenciales (por ejemplo, puntuación de créditos que niega a los ciudadanos la oportunidad de obtener un préstamo);
- • Aplicación de la ley que puede interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la fiabilidad de las pruebas);
- • Gestión de la migración, el asilo y el control de fronteras (por ejemplo, verificación de la autenticidad de los documentos de viaje); Administración de justicia y procesos democráticos (por ejemplo, aplicación de la ley a un conjunto concreto de hechos).
Estos sistemas de IA de alto riesgo estarán sujetos a estrictas obligaciones antes de poder comercializarlos, como son:
- • La implantación de unos sistemas adecuados de evaluación y mitigación de riesgos;
- • Una exigencia de alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos y los resultados discriminatorios;
- • Un registro de la actividad para garantizar la trazabilidad de los resultados;
- • Una documentación detallada que proporcione toda la información necesaria sobre el sistema y su finalidad para que las autoridades puedan evaluar su conformidad;
- • Una información clara y adecuada al usuario;
- • Medidas adecuadas de supervisión humana para minimizar el riesgo, y
- • un alto nivel de solidez, seguridad y precisión.
En particular, se precisa, todos los sistemas de identificación biométrica a distancia se consideran de alto riesgo y están sujetos a requisitos estrictos.
Su uso en vivo en espacios de acceso público con fines policiales está prohibido en principio.
Las limitadas excepciones que se prevén estarán estrictamente definidas y reguladas (entre otros, se citan en este sentido, los supuestos en los que el uso de sistemas inteligentes sea estrictamente necesario para buscar a un niño desaparecido, para prevenir una amenaza terrorista específica e inminente o para detectar, localizar, identificar o procesar al autor o sospechoso de un delito grave). Esta utilización está sujeta a la autorización de un órgano judicial u otro órgano independiente y a límites adecuados en cuanto a tiempo, alcance geográfico y bases de datos consultadas.
3. Sistemas de riesgo limitado
Se engloban bajo este criterio a los sistemas de IA cuyo empleo conlleva obligaciones específicas de transparencia, como, por ejemplo en el caso de los asistentes conversacionales o chatbots, ante los cuales llos usuarios deben ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o retroceder.
4. Sistemas de riesgo mínimo:
La Comisión considera que la gran mayoría de los sistemas de IA entran en esta categoría.
Por ello, la propuesta de Reglamento permite el libre uso de aplicaciones de sistemas inteligentes en videojuegos con IA o los filtros de spam. El proyecto de Reglamento no interviene aquí, ya que estos sistemas de IA representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos.
Gobernanza de la IA en Europa
En cuanto a la gobernanza, la Comisión propone que las autoridades nacionales competentes en materia de vigilancia del mercado supervisen las nuevas normas, mientras que la creación de un Consejo Europeo de Inteligencia Artificial facilitará su aplicación, además de impulsar el desarrollo de normas para la IA.
Además, se proponen códigos de conducta voluntarios para la IA que no sea de alto riesgo, así como "sandboxes" reglamentarios para facilitar la innovación responsable.
Según estos responsables, la combinación del primer marco jurídico sobre la IA y un nuevo plan coordinado con los Estados miembros garantizará la seguridad y los derechos fundamentales de las personas y las empresas, al tiempo que reforzará la adopción de la IA, la inversión y la innovación en toda la UE.
Como complemento a esta propuesta, nuevas normas sobre maquinaria complementarán este enfoque adaptando las normas de seguridad para aumentar la confianza de los usuarios en la nueva y versátil generación de productos.
La nueva normativa sobre IA garantizará que los europeos puedan confiar en lo que la IA puede ofrecer. Unas normas proporcionadas y flexibles abordarán los riesgos específicos que plantean los sistemas de IA y establecerán el nivel más alto en todo el mundo.
El Plan Coordinado esboza los cambios políticos necesarios y la inversión a nivel de los Estados miembros para reforzar la posición de liderazgo de Europa en el desarrollo de una IA centrada en el ser humano, sostenible, segura, inclusiva y digna de confianza.
Propuesta de nuevo Reglamento sobre máquinas
En este mismo contexto, la Comisión ha presentado una propuesta de Reglamento sobre máquinas, que sustituya a la actual
Directive 2006/42/EC, de 17 de mayo de 2006.
Este nuevo enfoque sobre los productos de maquinaria, abarca una amplia gama de productos de consumo y profesionales, desde robots a cortacéspedes, impresoras 3D, máquinas de construcción o líneas de producción industrial.
El nuevo Reglamento de Máquinas asegurará que la nueva generación de maquinaria garantice la seguridad de los usuarios y consumidores, y fomente la innovación.
Mientras que el Reglamento de IA abordará los riesgos de seguridad de los sistemas de IA, el nuevo Reglamento de Máquinas garantizará la integración segura del sistema de IA en el conjunto de la maquinaria. Las empresas sólo tendrán que realizar una única evaluación de la conformidad.
Además, el nuevo Reglamento de Máquinas responderá a las necesidades del mercado aportando una mayor claridad jurídica a las disposiciones actuales, simplificando la carga administrativa y los costes para las empresas al permitir los formatos digitales para la documentación y adaptando las tasas de evaluación de la conformidad para las PYME, al tiempo que garantiza la coherencia con el marco legislativo de la UE para los productos.