La creciente implantación en nuestra sociedad de las tecnologías conocidas como inteligencia artificial (IA), plantea relevantes problemas jurídicos, todavía por definir y resolver.
Por el momento, conocer las posibles implicaciones jurídicas de las acciones llevadas a cabo por estos sistemas, exige un diálogo en profundidad entre juristas y tecnólogos. Solo de esta manera el jurista podrá ser consciente de los fundamentos y forma de funcionar de estas tecnologías y extraer las oportunas consecuencias jurídicas. Y solo así los desarrolladores podrán conocer los condicionantes normativos que afectan al diseño y la puesta en funcionamiento de estas nuevas herramientas. Mantener estos dos entornos en mundos separados solo puede tener nefastas consecuencias fruto de la ignorancia y la incomprensión.
Por eso resultan tan de agradecer iniciativas como la recientemente puesta en marcha por el Ateneo Judicial de Madrid, que, bajo el título “Inteligencia Artificial y Sistema Jurídico” sentó en la misma mesa a un jurista tan relevante como el magistrado de la Audiencia Nacional, Eloy Velasco, y al Ingeniero técnico informático y Concejal delegado del Área de Innovación y Emprendimiento del Ayuntamiento de Madrid, Ángel Niño, ambos moderados por la magistrada de lo mercantil Elena de Oro.
El extenso diálogo entre ambos ponentes y el posterior turno de preguntas de una audiencia en la que abundaban los jueces y juezas de distintas jurisdicciones, permitió poner de relieve tanto el grado de desarrollo y previsible evolución de estas tecnologías, como los retos jurídicos que plantean y las posibles respuestas que estos van a requerir.
Entre las principales conclusiones extraídas podemos destacar que la IA plantea la necesidad de un nuevo derecho de carácter global, que anteponga el respeto a los derechos fundamentales de la persona como principio rector, se base en la teoría del riesgo en vez de en la del resultado y que anticipe la introducción de los principios jurídicos al momento del diseño de los sistemas, además de unos exigentes sistemas de auditoría sobre toda la vida útil del sistema.
La IA está por todas partes
Para empezar, Eloy Velasco explicó que la denominación de inteligencia artificial (IA) engloba en realidad una constelación de tecnologías, basadas en el procesamiento de gran cantidad de datos por medio de sistemas de computación avanzados, que aparecen reseñadas en el Anexo I de la propuesta de Reglamento Europeo sobre IA presentado por la Comisión en abril de 2021.
Estas tecnologías se caracterizan por el uso de grandes volúmenes de datos (en particular, texto, imágenes, voz o audio), alta capacidad de proceso y técnicas y capacidad de aprendizaje. Y su consecuencia final es que pueden generar contenidos, efectuar predicciones u ofrecer recomendaciones.
Desde un punto de vista jurídico, esa capacidad de las máquinas de adoptar decisiones, plantea, por una parte, considerar el hecho de que esas máquinas pueden adoptar decisiones equivocadas, con fatales consecuencias en ocasiones. Y, por otra, los problemas de responsabilidad y corresponsabilidad que pueden derivarse de esas acciones.
Los jueces van a tener que juzgar decisiones adoptadas por sistemas inteligentes
Este conjunto de circunstancias, basadas en una capacidad de transmisión y proceso de datos sin precedentes, llevan a Ángel Niño a sostener que el momento de la IA es ahora.
Pero también, a partir del hecho de estas tecnologías, utilizando técnicas de aprendizaje profundo o Deep Learning, lleven a que la máquina sea capaz de aprender por si sola, sin necesidad de intervención humana más allá de la programación de base inicial, y a tomar decisiones en consecuencia.
Ahora ya no hay ingenieros detrás de la IA, sino grandes redes neuronales de aprendizaje, capaces de llegar a tomar decisiones.
Algo que, de hecho, ya hacen con frecuencia dispositivos tan cotidianos como nuestros teléfonos móviles, pero que plantea problemas muy complicados, como que esa decisión, técnicamente correcta, no esté alineada con los valores de la sociedad en la que vivimos. Algo que no puede resolverse solo con la ética.
En este mundo, llevar la IA al ámbito de la Administración y de la Justicia es bastante complicado, porque la normativa siempre va por detrás y porque predecir el futuro es muy complicado.
Por ello, llevar esa realidad al ámbito de la justicia, obliga a plantearse que la toma de decisiones por las máquinas puede plantear problemas sociales. Por ejemplo, en el futuro el coche autónomo tendrá que decidir, en determinadas circunstancias, quien vive y quien muere ante la inminencia de un atropello.
Y no solo eso. El juez del futuro tendrá que decidir quien es culpable del daño causado por un sistema de IA, en supuestos en los que pueden intervenir una gran cantidad de variables y ante demandas que pueden haber sido elaboradas por sistemas de inteligencia artificial utilizadas por los abogados y que manejarán mucha más información que cualquier de ellos.
Es decir, un escenario en el que el despacho de abogados que más allá invertido en IA será que siempre se acabe imponiendo.
Ante los nuevos riesgos, un nuevo derecho
Por otra parte, explicó Eloy Velasco, hay que tener en cuenta que Europa está en puertas de una gran revolución normativa, por la llegada de las leyes de servicios digitales, de mercados digitales, el Reglamento MICA sobre activos financieros, el Reglamento sobre IA o los Reglamentos sobre identidad digital, redes 5G y computación cuántica.
Y, ante ese escenario, los principales riesgos que, desde el punto de vista jurídico, plantean las tecnologías inteligentes son los siguientes:
- Las máquinas no bien entrenadas general riesgos
- la necesidad de transparencia y explicabilidad de las decisiones algorítimicas, criterios que son fundamentales en el ámbito de la administración de Justicia, porque la Justicia no solo hay que hacerla, también hay que verla hacerse.
- La rigidez de la máquina, teniendo en cuenta que se basa en datos que son del pasado, pero que las circunstancias cambian (algo que puede suceder en el ámbito de la Justicia ante una sentencia si es seguida por otras posteriores). La realidad muestra que solo se evoluciona si se mejora, a partir de la crítica de lo que se está haciendo mal.
- La necesidad de respetar la privaciad
- La necesidad de seguridad
De estos riesgos resulta en primer lugar la importancia de las auditorías de los sistemas inteligentes. Y también el explicar a los ingenieros problemas jurídicos que pueden plantearse con sus desarrollos y que estos suelen desconocer, como son el derecho al juez natural predeterminado y el principio de inmediación.
Todo ello plantea la necesidad de un nuevo derecho, que, basado en el respeto a los derechos fundamentales:
- Mantenga las conquistas alcanzadas, situando a los derechos fundamentales de las personas como límite, porque los criterios jurídicos son diferentes en los distintos ordenamientos y es mejor acogerse a principios generales
- Desplace, anticipándolo, el momento de la aplicación del Derecho al momento del diseño de los sistemas inteligentes (idealmente, situando al juez al lado del desarrollador)
- Considere el paso de la teoría del resultado a la teoría del riesgo
- Dé relevancia a las auditorías (algo ya previsto en el art. 588 Ter f) de la LECrim (LA LEY 1/1882))
- Adopte nuevas perspectivas en materias como la protección de datos o el control del cumplimiento normativo o compliance
- Platee la aplicación de medidas ya anticipadas en la Ley de Servicios de la Sociedad de la Información, como la retirada de contenidos, la interrupción de su suministro o su bloqueo.
Sobre este punto, Ángel Niño matizó, por una parte, que el Derecho no debería poner trabas a la innovación. Y, por otra, que, en relación con los derechos fundamentales, la mentalidad de los actuales menores de 25 no tiene que ver con la de los mayores de 50. Lo que para estos es un derecho fundamental, para un joven puede no serlo. El gran problema de hoy es que el mundo quiere los servicios que prestan las grandes plataformas y muchas personas están dispuestos a renunciar a sus derechos para poder usarlas. Los jóvenes no ven especial problema en un mundo que se relacione a través del metaverso, que es un universo descentralizado en el que no se sabe qué normas son aplicables ni si, sabiéndolo, se podrán aplicar.
Ello a su vez plantea serios problemas de imputabilidad, porque en realidad, “los grandes hackers son irreemplazables”.
Por tanto, ese derecho tendrá que ser global. En este sentido, concluyó, se mostró optimista, pero advirtió que no debemos llegar muy tarde, por hoy los delitos se cometen de forma mucha más rápida y masiva.
A este respecto Eloy Velasco concluyó mostrando su optimismo en las capacidades del derecho, pues hasta Al Capone acabó cayendo (aunque fuera por un tema fiscal). Siempre ha habido quien mande, señaló, lo importante son los contrapoderes. El derecho es un controlador del poder y del más salvaje. Por ello, los jueces siempre pueden suplir las imperfecciones de la ley, lo que hacen falta son garantías para poder aplicar las medidas adecuadas.