El Proyecto de Reglamento Europeo sobre la Inteligencia Artificial (AI Act) dará un importante paso adelante el próximo día 15 de marzo, con la presentación de dos informes sobre el mismo, uno del Comité de Asuntos Jurídicos (JURI) y otro conjunto de los Comités de Mercado Interior (IMCO) y de Libertades Civiles, Justicia e Interior (LIBE) del Parlamento Europeo.
El primero de dichos informes, el del Comité JURI, parte de la consideración de que la propuesta de la Comisión "parece un buen punto de partida". Sin embargo, el se considera que aun requiere mucho trabajo para hacer frente al complejo y muy dinámico campo de la IA. En este sentido, el Comité considera que el Consejo de la Unión ha hecho un gran trabajo en este sentido y su propuesta constituye un buen avance.
Pero, con todo, ha presentado un total de 309 enmiendas en 7 áreas clave, la principal de las cuales probablemente sea la relativa a que sólo los sistemas de aprendizaje automático (machine learning) deberían estar incluidos en el ámbito de aplicación del Reglamento, ya que los demás ya están cubiertos por la actual normativa.
Según Kai Zenner, jefe de gabinete del eurodiputado ponente del informe, Axel Voss, este conjunto de enmiendas puede agruparse como sigue
1. Enmiendas relativas al alcance y definición del concepto de IA
El informe considera que, teniendo en cuenta la conectividad, la autonomía, la dependencia de los datos, la complejidad, la apertura y la opacidad de los nuevos sistemas de AI, el futuro Reglamento debería centrarse únicamente en estos nuevos sistemas. Esto significa que sólo el aprendizaje automático debería estar incluido en su ámbito de aplicación, ya que los demás ya están cubiertos por las leyes existentes.
En concreto, la enmienda al Considerando 6 del proyecto señala que:
"La noción de sistema de IA debe estar claramente definida para garantizar la seguridad jurídica, a la vez que proporciona la flexibilidad necesaria para adaptarse a futuros desarrollos tecnológicos. La definición debe estar en consonancia con las definiciones de IA que ya han sido aceptadas internacionalmente. Además, debe basarse en las características funcionales clave de la inteligencia artificial que la distinguen de los sistemas de software más clásicos y de los enfoques de modelización como la regresión logística y otras técnicas que son igualmente transparentes, explicables e interpretables. A efectos del presente Reglamento, la definición debe basarse en las características funcionales clave del sistema de IA, en particular su capacidad para, ante un conjunto dado de objetivos definidos por el ser humano, hacer predicciones, recomendaciones o decisiones que influyan en entornos reales o virtuales, para lo cual utiliza datos e insumos basados en máquinas y/o en el ser humano para (i) percibir entornos reales y/o virtuales; (ii) abstraer estas percepciones en modelos mediante el análisis de forma automatizada (por ejemplo, con aprendizaje automático), o manual; y (iii) utilizar la inferencia del modelo para formular opciones de resultados. La definición debe incluir los sistemas de IA que están diseñados para funcionar con diversos niveles de autonomía y pueden ser diseñados para funcionar con diversos niveles de autonomía y ser utilizados de forma independiente o como un componente de un producto, independientemente de que el sistema esté integrado físicamente en el producto (incrustado) o sirva para la funcionalidad de el producto sin estar integrado en él (no integrado). Los sistemas, que proporcionan la solución de tareas automáticas no deben considerarse sistemas de IA, a menos que los sistemas actúen de forma de forma autónoma..."
Por otra parte, se añade, el futuro reglamento de la UE, debería utilizar la definición de IA elaborada por la OCDE, pues esta está ampliamente aceptada, por lo que ayudará a la UE a cooperar mejor con las democracias que no pertenecen a la UE, como Estados Unidos, Canadá o el Reino Unido y, junto con ellas, será más fácil promover normas internacionales basadas en nuestros valores democráticos. La nueva definición de los sistemas de IA Además, crea seguridad jurídica al tiempo que proporciona suficiente flexibilidad al dar cabida a futuros desarrollos tecnológicos futuros.
2. Concepto de "IA confiable"
Los organismos europeos de normalización están esperando una señal política en el "metanivel" que puedan traducir en normas técnicas para las distintas aplicaciones de la IA. En este sentido se considera que el excelente trabajo del Grupo de Expertos de Alto Nivel sobre IA ofrece un concepto equilibrado para dicha señal.
3. Concepto de "alto riesgo" en línea con la propuesta del Libro Blanco de 2019
El actual Anexo III de la propusta, sitúa a sectores enteros bajo sospecha general. Sin embargo, el Libro Blanco sobre la IA indica una solución mejor: El sistema de IA se considera de alto riesgo cuando su objetivo cae en un área crítica de manera que sea probable un daño significativo. De esa forma se proponen también una nueva relación de sectores críticos y un nuevo sistema de evaluación de riesgos.
4. Datos
Los sistemas de inteligencia artificial actuales necesitan muchos datos de alta calidad, por lo que se han propuesto varios cambios en el artículo 10. También se sugiere considerar los procesos de entrenamiento, validación y prueba de los sistemas de IA como un "interés legítimo" y un "propósito compatible" según el artículo 6.1 f) y (4) del RGPD.
5. Responsabilidad derivada del uso de los sistemas inteligentes
Dado que la cadena de suministro de los sistemas de IA es muy compleja, es muy difícil una distribución justa de las responsabilidades entre los actores, algo que los sistemas de IA de propósito general lo hacen aún más difícil. Por ello se toma el "gran artículo" 23 del Consejo añadiendo al mismo algunos criterios para hacerlo más equilibrado.
6. Comité Europeo de IA y grupo de expertos de alto nivel
Se considera que el Comité de IA debe tener un mandato fuerte y recursos suficientes, pues será clave para coordinar a los Estados miembros, evaluar la aplicación y ajustar constantemente el Reglamento a los nuevos avances tecnológicos. Por ello se propone el restablecimiento del Grupo de Expertos de Alto Nivel de la Comisión, para garantizar la adecuada participación de la comunidad de la IA.
7. Mecanismo de coherencia
Cada autoridad nacional competente debe actuar como punto de contacto único para este Reglamento, aunque reproduciendo el mecanismo de ventanilla única, no se quieren repetir las deficiencias del RGPD en este sentido. Por lo tanto se propone reforzar el mecanismo de coherencia, para permitir además el que el Comité Europeo de la IA tome decisiones vinculantes si es necesario.
Además de esta línea general de enmiendas, el eurodiputado ponente de este informe, el alemán Axel Voss, ha anunciado que durante su presentación en la comisión JURI el 15 de marzo, este presentará --además del proyecto de informe-- cuatro puntos adicionales que son necesarios para hacer de la UE un líder mundial en IA.