Uno de los aspectos que probablemente marcará el futuro desarrollo de la inteligencia artificial (IA), es el establecimiento de estándares o normas armonizadas para su desarrollo. Esta previsión se basa no solo en el contenido del artículo 40 de la propuesta de Reglamento presentada por la Comisión, sino también en opiniones como la de Tim O’Reilly, CEO y presidente de O’Reilly Media, una de las empresas más relevantes a nivel mundial en cuanto a la edición de libros relacionados con tecnología.
En un reciente post publicado en la página web de su empresa, titulado You Can’t Regulate What You Don’t Understand ("No puedes regular lo que no entiendes"), O’Reilly aborda el relevante problema de cómo alinear las decisiones de los sistemas inteligentes con los valores humanos (lo que en inglés se denomina el alignment problem).
Y para ello considera necesario disponer a nivel global de un estándar sobre los sistemas de IA similar a los GAAP (por Generally Accepted Accounting Principles o principios de contabilidad generalmente aceptados, que son las reglas armonizadas utilizadas para reflejar el estado contable de las empresas norteamericanas, hoy empleadas por otros muchos países). Estos principios deberían estar supervisados por un organismo independiente, para velar por su aplicación, así como un elenco de auditores encargados de verificar y aplicar dichos principios, para asegurarse de que las empresas que desarrollan o utilizan estos productos respetan a dichos estándares.
En esta tarea de definir y establecer unos estándares para la IA, probablemente el país más avanzado del mundo sea Alemania, que a principios de este año 2023 ha presentado la 2.ª edición de su Hoja de Ruta para la Normalización de la IA (Deutschen Normungsroadmap KI).
Este documento actualiza el contenido de la primera edición y presenta un análisis ampliado y actualizado del estado actual y la necesidad de normas y especificaciones internacionales para la IA. Su objetivo es establecer la "Inteligencia Artificial made in Germany" como un sello de aprobación mundialmente reconocido para una tecnología fiable.
Esta hoja de ruta forma parte de la Estrategia de IA del Gobierno alemán y fue encargada por el Ministerio Federal de Economía y Acción por el Clima (BMWK). El desarrollo y consolidación de la hoja de ruta está siendo acompañado por un grupo de coordinación de alto nivel para la normalización y conformidad de la IA con un mandato del gobierno alemán.
El trabajo se centró en el proyecto de reglamento sobre IA (Ley de Inteligencia Artificial) presentado por la Comisión Europea en abril de 2021, que atribuye un papel central a las normas y especificaciones relativas a las aplicaciones de IA de alto riesgo y prevé que los requisitos de los sistemas de IA, como la transparencia, la solidez y la precisión, deben especificarse técnicamente mediante normas europeas armonizadas.
Por ello, en esta segunda edición se identifican las necesidades concretas de normas y especificaciones que deben desarrollarse para la aplicación de la Ley de IA prevista por la Comisión Europea, y se formulan seis recomendaciones generales de actuación y más de 100 necesidades de normalización.
El informe se enfoca en los siete aspectos clave identificados en su primera edición (fundamentos, seguridad/protección, ensayos y certificación, automatización industrial, movilidad y medicina), a los que añade otros tres nuevos (sistemas sociotécnicos, servicios financieros y energía/medio ambiente).
Además, como parte de la estrategia de IA del Gobierno alemán, la hoja de ruta desarrolla el calendario estratégico para la normalización de la IA.
Nueve áreas clave para la normalización
Como hemos indicado, la hoja de ruta se enfoca en nueve aspectos relevantes de la IA, sobre los que destaca los siguientes puntos:
- Fundamentos
Como tecnología transversal, la IA ofrece un gran potencial en muchas industrias y ámbitos. La base para ello es una IA fiable, funcional y, sobre todo, segura.
Para conseguirlo, la hoja de ruta de normalización abarca terminologías y ámbitos de aplicación significativos, como las tecnologías del lenguaje, la tecnología de sensores de imagen y la IA cuántica, así como describe los métodos y capacidades de la IA.
Además, se abordan los principios éticos, la calidad de los datos y otros criterios. Todos estos temas son la base de una comprensión común de la inteligencia artificial y pueden reflejarse en normas y especificaciones. Esto favorece la interoperabilidad y la interacción de distintos sistemas
- Seguridad
Los sistemas de IA deben ser seguros en varios sentidos: por una parte, las personas que interactúan con un sistema de IA deben estar protegidas (safety). Además, los datos utilizados no deben ser objeto de uso indebido (security). Sólo una consideración profunda de la seguridad de las tecnologías y aplicaciones basadas en la IA puede permitir su uso integral en la industria y la sociedad.
Actualmente, los sistemas autónomos de IA siguen enfrentándose al reto de poder demostrar que no suponen un riesgo para la vida y la integridad física. Por ello, la hoja de ruta de normalización describe un enfoque para explotar el potencial de mercado de estas aplicaciones y lograr la necesaria reducción de riesgos. También ayuda a aprovechar el potencial de mercado de las aplicaciones y, en particular, a diseñar las interfaces entre ética, derecho y tecnología en lo que respecta a la seguridad.
La IA también necesita confianza en cuanto a su ciberseguridad y su respeto a la privacidad. Con este objetivo, las pruebas y la certificación pueden ayudar a infundir confianza pues se basan a su vez en normas y especificaciones, con el foco puesto en el ciclo de vida de los datos o algoritmos utilizados para los sistemas de IA.
- Pruebas y certificación
Los sistemas de IA difieren del software convencional en varios aspectos en que los datos y algoritmos adquieren un papel mucho más central.
Por eso, por ejemplo, la proyectada Ley de IA prevé auditorías de las aplicaciones de IA que puedan suponer un alto riesgo para la salud, la seguridad o el derecho a la intimidad de los usuarios. En particular, los requisitos de calidad, de fiabilidad técnica, así como la explicabilidad y la trazabilidad de las aplicaciones de IA es absolutamente fundamental.
Para reforzar la confianza en las aplicaciones de IA, se necesitan criterios de calidad y procedimientos de prueba que describan técnicamente los sistemas de IA y los hagan medibles. Las normas y especificaciones describen los requisitos de los criterios y procedimientos (en materia de calidad, seguridad y transparencia) y constituyen la base para la certificación de las aplicaciones de IA. La certificación también puede contribuir a la creación de una marca "AI Made in Europe" digna de confianza, reforzando así la competitividad internacional de Europa en el ámbito de la IA. Con este fin, la hoja de ruta de normalización recomienda desarrollar una norma horizontal de calidad de la IA, que puede servir de base para otras pruebas y certificaciones específicas del sector.
- Sistemas sociotécnicos
La tecnología de la IA siempre se encuentra en el contexto de los seres humanos y el entorno organizativo. Por tanto, para que las soluciones de IA tengan éxito, no basta con fijarse sólo en la tecnología: hay que tener en cuenta también el sistema sociotécnico en el que se utiliza la inteligencia artificial e interactúa con los seres humanos. El objetivo es identificar las necesidades de los usuarios y diseñar la IA de forma que les ayude en sus tareas de la mejor manera posible. En particular, debe permitirse a las pequeñas y medianas empresas y a las start-ups integrar las tecnologías de IA en sus modelos de negocio. La tarea de la normalización consiste en incluir a todos los grupos de personas y perspectivas pertinentes, teniendo en cuenta los aspectos sociotécnicos.
En el proyecto de reglamento de la Ley de IA, la supervisión humana y la posibilidad de intervención, así como la transparencia, desempeñan papeles importantes en los sistemas de IA. Por tanto, se indica, los componentes técnicos y sociales deben pensarse desde la perspectiva humana y alinearse con ella en mente durante el proceso de desarrollo.
- Automatización industrial
La IA es una tecnología clave cuando se trata de la transformación digital del sector manufacturero. De ahí, por ejemplo, la importancia de la cartografía digital de la realidad física, de los "gemelos digitales".
Por ello, la hoja de ruta de normalización expone los retos actuales relacionados con los modelos de datos para el uso de la IA en la automatización industrial y también aborda cómo interactúan los humanos y las máquinas y cómo pueden integrarse los sistemas de IA.
Las normas y especificaciones son esenciales en la automatización industrial: promueven la interoperabilidad entre empresas y ayudan en la aplicación de marcos normativos.
- Movilidad
El uso de la IA ofrece muchas ventajas en el sector de la movilidad, por ejemplo, cuando los sistemas de autoaprendizaje asumen complejas funciones de control automatizado y optimizan los flujos de tráfico o las cadenas de movilidad.
En este sentido, las normas y especificaciones para el sector de la movilidad pueden: a) constituir una base para la puesta en práctica de la Ley de Inteligencia Artificial, al permitir métodos objetivos para un desarrollo comprobable con arreglo a la fiabilidad por diseño; b) apoyar la (re)certificación o la homologación dinámicas y continuas a lo largo de un desarrollo continuo del sistema y, c) definir interfaces y requisitos mínimos para la interoperabilidad, el intercambio de datos y la fiabilidad y seguridad de los sistemas de movilidad automatizada.
- Medicina
La medicina del futuro será impensable sin la IA, ya sea en el diagnóstico, la terapia, la detección precoz o los cuidados cotidianos.
Al mismo tiempo, el uso de la tecnología en este ámbito es todo un reto: No se trata solo de la salud y los datos personales, sino también de permitir que las personas se beneficien de los avances médicos de forma rápida y segura.
En este sentido, las normas y especificaciones pueden ayudar a: a) aumentar la usabilidad de los datos para los sistemas médicos basados en IA; b) comprobar el rendimiento y la seguridad de los dispositivos médicos basados en IA; c) generar confianza y aceptación entre usuarios y pacientes y, d) aplicar eficazmente la infraestructura de calidad de las condiciones marco reglamentarias para la IA en dispositivos médicos.
- Servicios financieros
Los servicios financieros garantizan la participación social de todos y también son productos exigentes y muy sensibles, especialmente en un mundo digitalizado.
Hace tiempo que el dinero en efectivo ha sido sustituido por puros flujos de datos, lo que resulta aparentemente perfecto para el uso de la IA.
Y en este ámbito las normas y especificaciones facilitan mucho la respuesta a preguntas como ¿Cómo utilizar estas nuevas oportunidades de forma responsable sin pasar por alto los riesgos?¿Qué datos deben utilizarse para los modelos de decisión y cómo se determina cuándo se dispone de información suficiente para tomar decisiones justas? ¿Cómo están presentes los modelos de IA en la gestión bancaria convencional? ¿Cómo prevenir las fugas de datos basados en los modelos de comportamiento de los clientes?
- Energía y medio ambiente
La energía forma parte de las infraestructuras críticas y, en particular, en este ámbito, la transición energética es una cuestión política importante. En esta, la eficiencia económica, la seguridad del suministro, la protección del clima y el paso a las energías renovables figuran al mismo tiempo en el orden del día. En el futuro, las redes inteligentes serán cada vez más importantes. Combinan la tecnología energética con las tecnologías de la información y la comunicación. Por ello, la IA debe integrarse en este sistema de modelos de datos y arquitecturas de sistemas.
La IA es también una herramienta importante para alcanzar los 17 Objetivos de Desarrollo Sostenible definidos por las Naciones Unidas y su uso es potencialmente posible en el contexto del Pacto Verde Europeo. Por ejemplo, la IA puede utilizarse para desarrollar recomendaciones de comportamiento intersectoriales para los agentes del mercado y los consumidores con el fin de minimizar la huella ecológica. En el sector medioambiental, la IA también puede ser una herramienta para lograr una mayor eficiencia de los recursos en la industria y para procesar grandes volúmenes de datos en diversos sectores de la economía. En este contexto, la normalización contribuye a la transformación de una economía industrializada en una economía neutra desde el punto de vista climático.
Recomendaciones de actuación de la hoja de ruta de normalización sobre IA
1. Hacerse objetivamente verificables los requisitos que la industria, las autoridades públicas y la sociedad civil imponen a la IA
Para el crecimiento económico y el uso satisfactorio de los sistemas de IA, teniendo en cuenta los valores europeos, es necesario un programa de evaluación de la conformidad y certificación.
Basándose en pruebas fiables y reproducibles, pueden hacerse declaraciones sólidas sobre la fiabilidad de la IA.
2. Establecer infraestructuras de datos y normas de calidad de los datos para el desarrollo y la validación de los sistemas de IA
La calidad de un sistema de IA depende a menudo de la calidad de los datos utilizados. La medida en que la industria (alemana) de la IA y las empresas de nueva creación en particular pueden acceder a los conjuntos de datos correspondientes es, por tanto, un factor competitivo estratégico. Por lo tanto, se necesitan infraestructuras adecuadas para recopilar, describir y proporcionar conjuntos de datos. Las normas y especificaciones garantizan interoperabilidad y definen los requisitos de calidad.
3. Entender al ser humano como parte del sistema en todas las fases del ciclo de vida de la IA
¿Qué transparencia es suficiente en qué contexto y para qué grupo objetivo? ¿Cómo puede implantarse la supervisión humana en los sistemas de IA? ¿Y qué información debe estar disponible como base para la intervención humana en el sistema? Todas estas son cuestiones que deben plantearse desde la perspectiva humana y en función de las cuales deben desarrollarse y alinearse los componentes técnicos y sociales.
En el caso de los "proyectos faro", deben realizarse pruebas concretas para determinar cómo integrar a las partes interesadas en todas las fases del ciclo de vida de la IA. Además, deben elaborarse normas para los aspectos sociotécnicos de la Ley de IA; en este caso es especialmente importante que todos los grupos destinatarios relevantes participen de forma equilibrada. Además, la perspectiva sociotécnica, hasta ahora infrarrepresentada en la normalización, debe ser desarrollada por expertos.
4. Desarrollar especificaciones para la evaluación de la conformidad de los sistemas de aprendizaje continuo en el ámbito médico
El aprendizaje de los sistemas de IA en medicina puede mejorarse continuamente, por ejemplo, mediante nuevos datos de entrenamiento, información sobre comportamientos defectuosos y correcciones obtenidas. Al mismo tiempo, deben cumplirse los necesarios y elevados requisitos de seguridad. Esto requiere una evaluación de (re)conformidad con métodos de ensayo adecuados. Para preparar el acceso al mercado de estos métodos de ensayo, la hoja de ruta pide que se especifiquen condiciones límite que permitan la liberación automatizada de sistemas de aprendizaje continuo.
A tal fin, se recomienda la puesta en marcha de subproyectos específicos de medicamentos, en cooperación con las partes interesadas pertinentes, a fin de aplicar los resultados de los proyectos en normas, especificaciones y métodos de ensayo generalmente practicables.
5. Desarrollar aplicaciones de IA seguras y fiables en la movilidad a través de las mejores prácticas
El uso de tecnologías de IA en el contexto de la movilidad se caracteriza por unas condiciones límite complejas: Interacción con un entorno en constante cambio y muchos otros actores. Además, los fallos de funcionamiento pueden entrañar grandes riesgos para las personas y el medio ambiente.
La propuesta de Reglamento de IA especifica varios aspectos de la fiabilidad. Estos deben concretarse en normas y especificaciones a lo largo de todo el ciclo de vida de un sistema de IA.
Con esta finalidad, un catálogo de mejores prácticas debería apoyar el desarrollo eficiente y la salvaguardia de los sistemas en funcionamiento. La hoja de ruta también recomienda el desarrollo de normas y especificaciones que definan los requisitos mínimos, especialmente para los aspectos de seguridad y confianza esenciales.
6. Desarrollar normas generales sobre datos y técnicas de modelización dinámica
Las normas y especificaciones son necesarias para superar los límites de los sistemas de datos y desarrollar procedimientos de referencia. La hoja de ruta de normalización recomienda los siguientes proyectos piloto:
- Establecimiento de una terminología, una semántica y una taxonomía comunes, así como de correspondencias de datos y esquemas basados en ellas en los ámbitos de la ciencia de los materiales/construcción para determinar la eficiencia energética y el impacto medioambiental.
- Desarrollo de un formato de comunicación independiente de la industria para determinar el consumo de energía y recursos de bienes y servicios.
- Desarrollo de una metodología para evaluar el tiempo de ejecución, la precisión y la sostenibilidad de los sistemas de IA.