Nadie puede desconocer en la actualidad que estamos inmersos en una revolución cuyas consecuencias aun solo vislumbramos. No solo por lo que puede significar para economía, la sanidad, la educación o porque se pueden llegar a tambalear los pilares que sustentan el Estado social y democrático de Derecho tal y como en la actualidad lo conocemos. No pretendo exagerar, pero está en riesgo la propia configuración del ser humano, su dignidad, su libertad, sus derechos más esenciales. Tal es el impacto que tiene en la actualidad el desarrollo de la Inteligencia Artificial, IA por sus siglas en español, o AI, en inglés.
Por ello, el autor del libro que ahora reseño, Alessandro Mantelero, propone una forma de analizar estas tecnologías que coloque los derechos esenciales del ser humano en el centro del tablero de juego. Ya no solo desde una perspectiva jurídica, sino también ética y social, midiendo el impacto que sobre estas esferas puede producirse y ponderando, como no puede ser de otra forma, riesgos y beneficios.
En esta línea, el estudio de las repercusiones que puede tener la IA sobre los derechos fundamentales debe trascender al derecho a la protección de datos y la privacidad para alcanzar una visión mucho más amplia, holística incluso. Bien es cierto que este derecho ha jugado un papel esencial en el desarrollo de los derechos digitales, pero esta perspectiva se queda corta frente a los nuevos retos que se plantean a corto y medio plazo.
Por ello, lo que se pretende en este trabajo es defender un análisis global de las tecnologías asociadas a la IA, es decir, una evaluación desde la perspectiva de los derechos humanos, la ética y el posible impacto social (HRESIA, por sus siglas en inglés). Como se indicaba más arriba, no solo está en juego la privacidad o la protección de datos en sentido estricto, sino otros derechos como la igualdad, la educación, la salud o el libre desarrollo de la personalidad, por poner solo algunos ejemplos. En definitiva, la dignidad del ser humano como pilar que sustenta el resto de los derechos humanos.
El primer objetivo de este modelo de análisis pasa por concienciar a los desarrolladores de aplicaciones y productos que utilizan tecnologías de IA sobre el impacto que puede tener en diferentes ámbitos, no solo en la protección de datos o la privacidad. Por otro lado, resulta importante el cumplimiento del principio de precaución, es decir, la utilización de una metodología ex ante, de manera que se evite, en la medida de lo posible, la concreción de los correspondientes riesgos. Así se consigue, además, una mayor eficiencia en el cumplimiento de las metas correspondientes.
Pero este análisis de impacto no puede quedarse, según plantea Mantelero, en un estudio general y de principios, que también es importante, sino en algo más concreto y eficaz. En definitiva, una herramienta que puedan utilizar las distintas entidades involucradas para comparar y elegir la vía más adecuada para el desarrollo e implementación de los sistemas de IA. No debería verse, por otra parte, como una obligación, sino como una verdadera oportunidad para mejorar y alcanzar los objetivos sociales predefinidos sin traspasar los límites éticos establecidos. Y todo ello respetando, por supuesto, los derechos humanos fundamentales y libertades públicas.
Resulta igualmente importante tener en cuenta el contexto social donde dichas tecnologías se van a implantar ayudando en la toma de decisiones o, directamente, resolviendo. Aquí resulta esencial, según entiende el autor del trabajo, la participación de los distintos sectores implicados para la adaptación de los sistemas de IA al medio ambiente cultural donde se pretenden desarrollar, logrando así una tecnología más democrática.
En relación a la regulación sobre la IA, Mantelero describe en su trabajo los tres modelos que se plantean en la actualidad: El primero, un enfoque basado en principios derivado de instrumentos internacionales, lo que proporciona un marco global de regulación para la IA; otro centrado en el impacto sobre derechos individuales que toma como referencia las correspondientes evaluaciones y, por último, el que hace más hincapié en la gestión de las aplicaciones de alto riesgo centrándose en la seguridad de los productos y la evaluación de la conformidad.
No se puede olvidar que estamos ante una tecnología que está en pleno desarrollo, por lo que no tiene sentido plantear una regulación demasiado exhaustiva o casuística sino, más bien, basada en principios rectores, quizás aunando, como se ha señalado, los tres modelos anteriores. De ahí que el planteamiento más adecuado, según señala el propio autor, sea regular con distintos instrumentos de hard law y soft law, pero también con herramientas como las evaluaciones de impacto obligatorias, las auditorias o las certificaciones, en línea con la actual regulación sobre protección de datos.
La materia es compleja, porque estamos ante un verdadero reto como sociedad. Pero debemos afrontarlo con instrumentos cuya eficacia ya ha sido demostrada en otros ámbitos similares. Como indicaba al principio, la necesidad de un control sobre los avances en el desarrollo de estas tecnologías es imprescindible para salvaguardar los derechos fundamentales y las libertades públicas. Y me atrevería a añadir, que jugarán un papel esencial, igualmente, las sentencias de los tribunales que interpretan las grandes declaraciones de derechos, como el Tribunal Europeo de Derechos Humanos, en relación con el Convenio Europeo, o el Tribunal de Justicia de la Unión Europea, respecto a la Carta de Derechos Fundamentales y las normas que desarrollan esos derechos a nivel europeo.
Juegan un papel esencial, estimo, porque la interpretación que hagan será vinculante para los tribunales nacionales de los Estados parte. Ejemplo paradigmático lo tenemos en el artículo 10.2 de nuestra Constitución (LA LEY 2500/1978). Aunque pueda pensarse que esta perspectiva ex post no es tan eficaz, lo cierto es que estos tribunales internacionales hacen una labor muy importante en la ponderación de derechos fundamentales, resolviendo casos y problemas concretos, aplicando principios, en muchas ocasiones, e intentando ofrecer la solución más adecuada. No se puede desdeñar este trabajo, como es lógico, y su resultado puede ser muy útil de cara a una futura regulación en la materia, aplicando un método inductivo.
Es importante subrayar, como hace el profesor Mantelero, el rol que juega la Organización de las Naciones Unidas en todo este proceso. No se debe olvidar que, pese a que las diferencias regulatorias, sociales y culturales son importantes y deben ser tenidas en cuenta, lo cierto es que es una materia con un componente, si se me permite, universal. De ahí que, sin perjuicio de que las evaluaciones de impacto sobre los derechos humanos, éticos y sociales deban resaltar el contexto social y cultural de donde se lleven a cabo, la perspectiva internacional de la regulación no debe olvidarse, y tendría que alcanzar unas altas cotas de homogeneidad.
En definitiva, se trata de un trabajo que plantea de forma muy clara los retos y problemas de la IA. Y no los elude, al contrario, los afronta de forma valiente y ofrece soluciones que, lejos de ser meros brindis al sol, pueden ser muy eficaces para atajar conflictos sociales. Es más, en mi opinión, es un libro que puede ser utilizado como guía práctica por las organizaciones que se hayan propuesto el difícil objetivo de lidiar con la IA. Las soluciones no son fáciles, pero tampoco el reto al que nos enfrentamos. Y el autor ha sabido concretar y ofrecer soluciones que, además, ya eran conocidas, por lo que nos quedan a mano.
Un libro estupendo, como vengo diciendo, para todos aquellos que se interesen por la IA a nivel teórico, para una aproximación certera al problema, pero también para aquellos que busquen soluciones y propuestas prácticas a problemas más concretos.
Alejandro Corral Sastre
Profesor de Derecho Administrativo de la Universidad CEU-San Pablo de Madrid