I. Introducción
La Transformación Digital de la Justicia, como se entiende desde la misma expresión gramatical «Transformación», es un proceso evolutivo, no cerrado y en constante progresión cuyo fundamental propósito es modernizar la aplicación de la legalidad y sus cuestiones accesorias a través del empleo racional de las opciones que presentan las Nuevas Tecnologías.
El coronavirus fue un fenómeno disruptivo en nuestro país para el impulso de las políticas y acciones reformadoras del modo de comprensión del servicio público de Justicia. El despliegue general del teletrabajo, los proyectos pilotos de Inteligencia Artificial, el avance en las iniciativas de Expediente Judicial Electrónico o la mejora de la cogobernanza son algunos de los hitos que subrayan la evolución de España en lo que afecta a digitalización y Administración de Justicia.
Por otra parte, y fruto de lo anterior, el Proyecto de Ley de Eficiencia Digital, actualmente en tramitación parlamentaria en el Congreso de los Diputados, es la propuesta legislativa más ambiciosa para, dejando atrás la Ley 18/2011, de 5 de julio, reguladora del uso de las tecnologías de la información y la comunicación en la Administración de Justicia (LA LEY 14138/2011), situar a los Juzgados y Tribunales españoles en una posición inmejorable de aprovechamiento y disfrute de nuevas herramientas y servicios tecnológicos.
La digitalización de la vida, no sólo en los servicios públicos, también en otros marcos del mercado privado, sin embargo, debe desplegarse con conciencia de los riesgos que comportan el uso masivo de datos personales o las transferencias nacionales e internacionales de los mismos.
La tecnología no es inocua para el ser humano, conlleva progreso, pero, también, en ocasiones, retroceso en el disfrute de los derechos y libertades. Por ello mismo, y en un contexto como el actual, se torna imprescindible abrir un diálogo no sobre cuestiones jurídicas o tecnológicas sino, antes que estas, sobre cuestiones éticas. Porque siempre, aunque con demasiada habitualidad se olvide, detrás de cada normativa o iniciativa tecnológica se halla presente una idea moral que conviene consensuar de forma reflexiva.
¿Cuáles son los límites al uso de datos en el proceso de digitalización? ¿Qué cautelas normativas pueden o deben fijarse? ¿Qué papel corresponde a los operadores jurídicos? ¿La Inteligencia Artificial es un riesgo para la Justicia? ¿Qué podemos esperar de los próximos años?
La Transformación Digital de la Justicia debe poseer una base ética sólida e ineludible, una base que respete el sistema de libertades construido por la Unión Europea y la Constitución Española (LA LEY 2500/1978). Debatir sobre esa base ética es hacerlo sobre todo lo demás, porque sin esa base, el edificio tecnológico posterior correrá riesgo de derrumbe.
Y no podemos permitirlo.
II. ¿La Transformación Digital de la Justicia comporta riesgos para los ciudadanos y nuestros sistemas de derechos y libertades? ¿Cuáles?
Moisés Barrio Andrés (Letrado del Consejo de Estado. Profesor de Derecho digital. Asesor de diversos Estados y de la Unión Europea en materia de regulación digital)
«La transformación digital supone una formidable palanca para cubrir bastantes de las insuficiencias que padece el sistema de Justicia de nuestro país desde hace décadas, y de esta forma conseguir que éste ocupe plenamente el lugar que merece en una sociedad avanzada. Pensemos, por ejemplo, que sería posible hacer un reparto dinámico de las cargas de trabajo entre los distintos juzgados y tribunales. Ahora bien, también aparecen distintos riegos iusfundamentales. A mi juicio, los más relevantes serían cuatro.
Existe el peligro de aumentar las brechas digitales entre los justiciables, especialmente en términos de acceso, y respecto de los colectivos de personas más vulnerables
En primer lugar, existe el peligro de aumentar las brechas digitales entre los justiciables, especialmente en términos de acceso, y respecto de los colectivos de personas más vulnerables, de quienes viven en territorios rurales con problemas de conexión, o de quienes se encuentran en riesgo de exclusión social. En segundo lugar, a mi juicio son los temas de falta de transparencia algorítmica. El empleo de algoritmos y sistemas de inteligencia artificial puede generar falta de transparencia y opacidad en la toma de decisiones judiciales, lo que puede provocar desconfianza en la ciudadanía. En tercer lugar, las cuestiones relativas a la ciberseguridad y protección de datos. Los ciberdelincuentes tienen también entre sus objetivos a los sistemas del Poder Judicial, y en noviembre de 2022 el Punto Neutro Judicial se vio afectado por un ciberataque a las redes de las principales Administraciones Públicas españolas. El pasado 3 de abril de este año el cibercriminal fue detenido y reconoció que accedió a datos de 575.186 contribuyentes a través del ciberataque al Punto Neutro Judicial.
En último lugar, existe el riesgo de deshumanización del proceso, olvidando que la transformación digital es un medio, nunca un fin, que tiene a la persona en su centro. La Justicia en último término afronta cuestiones humanas, sobre intereses humanos, que apelan a la humanidad y ciencia del juez, y la intermediación digital produce burbujas autistas que afectan a la esencia de la humanidad. Además, no olvidemos que, en síntesis, el machine learning produce correlaciones, no causalidades, y estos sistemas de IA no comprenden, no cuentan con la capacidad de acceder a la carga semántica a nivel consciente. Hemos visto cómo ChatGPT produce respuestas válidas, pero también respuestas disparatadas, incluyendo la receta de un estofado de tornillos con verduras.»
José Díaz Cappa (Fiscal)
Toda transformación digital supone riesgos, si entendemos estos como las potenciales consecuencias indeseadas no conocidas ab initio y que solo se manifestarán a través de la práctica. Digo esto, que es importante, porque ciertos riesgos ya serán previsibles por ser comunes a toda implementación de un proceso de cambio digital. Como siempre he comentado, la dificultad concreta está en el «apellido» Justicia añadido a «transformación digital» pues la relevancia de los riesgos no estará en los previsibles (los tecnológicos) sino precisamente en los no previsibles (los jurídicos) consecuencia de la inevitable interrelación con aquellos, teniendo en cuenta que la potencial transformación digital debe ser capaz de poder mantener, siempre, los márgenes de decisión, interpretación, adecuación, individualización y autonomía de cualquier operador jurídico y que, tratándose de órganos judiciales, ello tendrá su reflejo inmediato en el marco de su necesaria independencia. Los riesgos serán pues reales para los ciudadanos en tanto receptores directos o indirectos de la Administración de Justicia, y vendrán de la mano de la posible falta de ajustes entre la mecanización o automatización y, por un lado, las necesidades procesales de cada tipo de procedimiento, y, por otro, de la incidencia de la digitalización en la labor imparcial del operador jurídico concreto. Justicia es un término muy amplio comprensivo de muchos operadores diferentes y la inadecuación del cambio en uno de ellos supondrá, sin duda, un efecto mariposa en el de otros y en el global del objetivo.
En la situación actual de la Justicia, y en anteriores, también se producen y producían reclamaciones relacionadas con la vulneración o desatención de derechos y libertades, pero no su eliminación
¿Qué dichos riesgos supondrán rémoras en derechos y libertades? Es posible, sobre todo en los derechos más que en las libertades, en tanto de carácter más intrínseco estas—, pero sólo eso—, es decir, devendrán necesidades urgentes de adecuación regulatoria paralelas a las nuevas realidades de esos derechos y libertades que en ningún caso podrán ser soslayados o eliminados, y, caso de poder verse alterados, habrán de ser subsanados debidamente. Debo decir que en la situación actual de la Justicia, y en anteriores, también se producen y producían reclamaciones relacionadas con la vulneración o desatención de derechos y libertades, pero no su eliminación. Por ello entiendo que lo trascendental será la readecuación de los mismos al objetivo digital. Sin duda, uno de los hándicaps más llamativos será la posible desviación inicial de derechos y libertades derivada de la ausencia de ciertas habilidades o la carencia de formación e información durante el período transitorio de gestión del cambio, sin que ello pueda suponer en ningún caso diferencias sociales en la prestación del servicio de justicia.
Fernando Llano Alonso (Catedrático de Filosofía del Derecho de la Universidad de Sevilla.)
«La llegada de la tecnología jurídica digital (legaltech) supone una oportunidad para facilitar el acceso a la justicia de los ciudadanos, ahorrándoles tiempo y dinero, a la vez que libera a los abogados y procuradores de tareas cotidianas y repetitivas que no exigen mucha cualificación (en otras palabras, la reconfiguración de la práctica profesional del derecho se está traduciendo en tres tendencias complementarias: rutinización o estandarización, desintermediación y desagregación de la actividad profesional en el mercado de los servicios jurídicos).
Sin embargo, este proceso de transformación digital de la justicia también plantea serias interrogantes, en la medida en que la justicia algorítmica (que es el producto de la interacción entre la legaltech y la tecnología blockchain) supone un cambio de paradigma en la elaboración de las decisiones judiciales derivadas de un software predictivo, en vez de un razonamiento jurídico basado en principios y reglas. Este cambio de paradigma auspicia la desinstitucionalización del derecho y la deshumanización de la Justicia en aras de un solucionismo tecnológico que nos asegura la certeza y la precisión de los resultados.
A propósito del irresistible encanto y poder de seducción ejercido por la smart justice sobre muchos especialistas y profesionales del derecho, conviene tener en cuenta, como nos recuerda el iusfilósofo Manuel Atienza, que no debe confundirse el hecho de fundamentar, es decir, dar razones que justifiquen un curso de acción, con la simple explicación de los motivos y los antecedentes causales de una acción, que es lo que en principio pueden hacer las máquinas inteligentes mediante cálculos matemáticos, estadísticas y pronósticos realizados a partir del uso de algoritmos y del recurso al inconmensurable banco de datos electrónicos.
Habría que determinar si esa justicia profética y de resultados a la que nos referimos como justicia digital es una auténtica justicia
Por otra parte, también habría que determinar si esa justicia profética y de resultados a la que nos referimos como justicia digital es una auténtica justicia. Para quienes así lo creen, la justicia se impartiría en sentido cuantitativo; sería el producto de un banco completamente actualizado de datos conformados por la normativa y la jurisprudencia aplicables al caso, además de un previo análisis estadístico y un cálculo aritmético que permitirían a un juez-robot ponderar una serie de riesgos y probabilidades que le habilitarían para anticipar con exactitud la resolución o la sentencia judicial más idóneas para un caso específico.
Sin embargo, no está claro que este concepto mecánico, objetivo y cuantitativo de la justicia agote por completo la naturaleza y la cualidad humana del derecho y la justicia, al menos tal y como están expresados estos conceptos en el tercero de los tria principia iura del justinianeo: suum cuique tribuere.»
Javier Martínez Talamantes (Registrador de la Propiedad)
«¿Qué significa transformar? Etimológicamente, "trans" (cambiar, variar) y "formare" (forma), esto es, cambiar de forma. Filosóficamente, creo, admite dos acepciones, a saber: cambiar "el" o cambiar "de" statu quo. Ergo, la pregunta es: ¿es bueno o malo el actual statu quo? Y me pregunto bueno o malo porque, en múltiples ocasiones, las fisuras de los modelos se intentan aprovechar por aquellos que, so pretexto de que el modelo entero es erróneo, persiguen fines individuales. Por eso no me cuestiono si el modelo es perfectible o no. Todo modelo lo es. Pero, el quid radica en si ese modelo es bueno y lo que hay que hacer es mejorarlo allí donde yerre, o si es malo y el cauce debe ser, entonces, su sustitución por otro distinto.
La Justicia requiere la intervención humana para dotarla de sentido humano y, en modo alguno, debe convertirse en un automatismo tecnológico
El modelo de Justicia actual, en general, funciona bien, así lo creo, por lo que el primer riesgo es que la deseable transformación digital (que ayudará, por ejemplo, a mejorar la celeridad de litigios o la depuración de datos entre relevantes e irrelevantes) no sea aprovechada por entidades o sujetos que proclamen un "bálsamo de Fierabrás" consistente en proporcionarnos la quintaesencia digital a costa de prescindir de toda intervención humana (en estos casos se suelen esconder fines lucrativos y egoístas). La Justicia requiere la intervención humana para dotarla de sentido humano y, en modo alguno, debe convertirse en un automatismo tecnológico.
El segundo riesgo, claro, es la posibilidad de intromisión externa ilegítima en los datos de todos aquellos que participen de la Justicia. Cualquiera entiende que es más sencillo hackear cientos de datos que entrar en una sede física a robar expedientes.
El tercero radica en la dejación de una excesiva intervención a lo tecnológico, esto es, que se deleguen excesivas funciones que hasta ahora han exigido la participación de individuos. Ello puede ocasionar que, si no se establecen los sistemas de protección y prevención adecuados, se produzca una súbita paralización o disfunción total del sistema en el caso de que un gran "hackeo" elimine, masivamente, bases de datos o archivos judiciales.»
Paula Bravo Martín (Specific Knowledge Analyst en NTT DATA)
«Toda transformación supone un proceso de cambio y, con ello, una gestión de este, no sólo respecto a los directamente afectados, como pueden ser los propios operadores jurídicos para los que la digitalización de la Justicia es una realidad palpable en la realización de su trabajo diario sino también una gestión del cambio respecto al ciudadano.
La sociedad se encuentra en un proceso de transformación digital imparable, más cierto es aún que existe una brecha digital en ciertos sectores de la sociedad
Si bien es cierto, que la sociedad se encuentra en un proceso de transformación digital imparable, más cierto es aún que existe una brecha digital en ciertos sectores de la sociedad. Estos sectores no deben quedar en ningún caso discriminados pues debe quedar sumamente garantizado el derecho a la tutela judicial efectiva tal y como así establece el 24 de la Constitución Española (LA LEY 2500/1978). Este derecho tiende en la actualidad hacia el acceso a una justicia digital que debe preservarse respecto a los ciudadanos más vulnerables.
El derecho fundamental a la tutela judicial efectiva no puede en ningún caso ser violado por imponer una justicia digital respecto a aquellos que no tienen acceso a estos medios digitales ni se encuentran capacitados tecnológicamente para ello. Se debe caminar hacia una cultura digital, pero respetando el sistema de derechos y libertades de todo ciudadano, no impidiendo su acceso al Servicio Público de Justicia en ningún caso por esta circunstancia ya sea, bien, en el acceso a un procedimiento judicial o bien, por ejemplo, en la simple solicitud de un certificado de nacimiento por medio de su certificado digital.»
III. De forma resumida: ¿Cuáles son las reglas éticas mínimas y esenciales que deben preservarse para que las Nuevas Tecnologías no pongan en jaque la aplicación de la legalidad tal y como hoy la conocemos? ¿Quién debe fijar estas reglas?
Moisés Barrio Andrés (Letrado del Consejo de Estado. Profesor de Derecho digital. Asesor de diversos Estados y de la Unión Europea en materia de regulación digital)
«En múltiples trabajos he defendido que su tratamiento debe abordarse con una regulación jurídica, siendo la ética un primer paso para encaminar las aplicaciones de las tecnologías disruptivas hacia valores aceptables en nuestras sociedades. Aquí quiero subrayar dos razones fundamentales para ello. En primer lugar, las normas éticas no cuentan con garantías jurídicas, ya que solo vinculan en el fuero interno y conllevan, en caso de incumplimiento, pecado y eventualmente condena eterna, pero no sanciones, multas o penas de prisión. La autorregulación no es bastante. Si las normas son solo voluntarias, algunas compañías de tecnología decidirán no atenerse a las reglas que no les benefician. Así ya lo han declarado algunos actores muy destacados en este campo. Eso no supone marginar en absoluto a las empresas del proceso de elaboración de normas jurídicas. Cuando se redactan normas para las tecnologías disruptivas, las voces de las compañías deben seguir siendo contribuyentes, sin duda muy relevantes, pero no legisladores.
En segundo lugar, en ningún caso cabe admitir la supremacía de la Ética sobre el Derecho, porque supondría la apropiación de la función de los Parlamentos democráticamente elegidos y de los procesos de participación política por parte de otros sujetos (¿quién debe fijar lo que constituye una «norma» ética?). Además, sin un marco jurídico unificado, un exceso de comités de ética privados también podría conducir a la existencia de demasiados conjuntos de normas. Sería caótico y peligroso que cada gran empresa tuviera su propio código para la robótica y la IA, al igual que si cada ciudadano privado pudiera establecer sus propios estatutos legales. Solo los Estados tienen el poder y el mandato de asegurar un sistema justo que imponga este tipo de adhesión en todos los ámbitos. Por eso los Estados son soberanos, tienen Parlamentos y un Poder Judicial.
Por eso, son el legislador europeo y nacional quienes deben establecer esta regulación jurídica. Así se está realizado en el seno del Derecho de la Unión Europea con la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión, que a fecha de escribir estas líneas se encuentra en avanzada tramitación. El proyecto de Reglamento se ancla de forma expresa en el marco de la Carta de Derechos Fundamentales de la Unión, e insiste en la necesidad de desarrollar la inteligencia artificial conforme al Derecho digital de la Unión Europea. Por eso, clasifica los usos de sistemas que incluyan inteligencia artificial atendiendo al riesgo que comportan desde una óptica iusfundamental, siendo así que algunos usos se prohíben y otros se rodean de cautelas, con una importante supervisión pública. A mi juicio, se trata de una regulación proporcionada al nivel de riesgo, y no es cierto que la regulación lastre la innovación, salvo que queramos amparar un Far West.»
José Díaz Cappa (Fiscal)
Consideraría principalmente las siguientes, de forma casi telegráfica:
- — Ética organizacional: búsqueda inexcusable de la compatibilidad entre la transformación digital, la procesal, la organizativa interna y la social.
- — Ética intercultural: distinguir la transformación digital judicial ad intra (la de posible actuación a nivel de operadores jurídicos con parámetros muchas veces solo profesionales) de la transformación judicial digital ad extra (la de actuación a nivel de ciudadano) y precisar los nexos puntuales, contextuales, generacionales y temporales que, poco a poco, vayan permitiendo la interconexión real sin detrimento para estos últimos como destinatarios principales.
- — Ética generacional o social: adecuación de los tempos a la realidad de los ajustes sociales. Hay que tener en cuenta que las posibilidades reales de transformación digital son mucho más rápidas que las propias de un cambio generacional, que es, en realidad, el verdadero campo de actuación de aquella. Como se expone en los contextos normativos en ciernes sobre el tema (como el relativo a la eficiencia digital del servicio público de justicia) buscando el objetivo prioritario de eliminación de las brechas y desigualdades en el acceso a la Justicia por razones de género, geográficas, culturales o de renta, para construir una Administración de Justicia, accesible e integradora.
- — Ética profesional: eliminación (o adecuación real) de las posibilidades técnicas que, por sus características, hagan inviable el acceso a la justicia de los ciudadanos. Es cierto que el Derecho implica profesionalidad, obligatoria en la mayoría de los casos, para su puesta en marcha ante la Administración de Justicia, pero los cambios previstos no deben hacer de lo meramente «intermediable» algo «irrealizable» o convertir lo «mediado» en «mediatizado» o revertirlo en una suerte de realidad inalcanzable para el ciudadano.
- — Ética jurídica: en relación con lo anterior, necesidad de una regulación normativa que, como se expone en los proyectos normativos sobre el tema, tiendan no solo a garantizar «la seguridad jurídica digital con una nueva regulación de los derechos y obligaciones de los ciudadanos y de aquellos colectivos obligados a relacionarse digitalmente con la Administración de Justicia», sino a adecuarla progresivamente a las posibilidades reales de dicha colaboración.
- — Ética de gestión y comunicacional: profundizar en la regulación de la transitoriedad temporal de la gestión del cambio.
- — Ética constitucional: disponer sobre los nuevos aspectos referentes a la protección de los datos personales y privacidad. Y, no menos importante, sobre el secreto de las comunicaciones en un entorno digital. El art. 23.4 de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación (LA LEY 15917/2022) ya dispone que «las administraciones públicas y las empresas promoverán el uso de una Inteligencia Artificial ética, confiable y respetuosa con los derechos fundamentales, siguiendo especialmente las recomendaciones de la Unión Europea en este sentido».
- — Ética de selección: determinación normativa específica para cada orden jurisdiccional respecto de la evitación de sesgos no discriminatorios y consecución de un entorno relacionado con los nuevos parámetros de la Inteligencia Artificial y orientación al dato.
Evidentemente, dichas reglas éticas se han de configurar como reglas jurídicas a través de los procesos democráticos habituales. En este caso, creo, se debe dejar, además, un importante campo de intervención y consenso para su definición a los operadores sociales y al sector privado. En cualquier caso, ya será un marco de referencia de suma importancia la llamada Carta Europea de Derechos Digitales.
Fernando Llano Alonso (Catedrático de Filosofía del Derecho de la Universidad de Sevilla.)
«Si las predicciones de la justicia algorítmica sirven, de un lado, para garantizar tanto la objetividad, como la eficacia en la actuación y en la adopción de decisiones, a la vez que resultan útiles para contrarrestar la alta discrecionalidad de los jueces y funcionarios que son competentes para resolver, de otro lado, habría que preguntarse hasta qué punto la opacidad de las predicciones algorítmicas, derivada de los modelos matemáticos en que éstas se basan, serían un peligro para la privacidad de los millones ciudadanos cuyos datos personales y patrones de comportamiento no solo estarían a disposición de la Administración pública, sino también de las empresas tecnológicas que obtienen poder y lucro con la gestión de esa información suministrada por el rastro que dejan en Internet millones usuarios, cuyos datos son recabados y almacenados en el Big Data dentro de una especie de "caja negra" (black box society). Por lo demás, la complejidad de los algoritmos opacos impide seguir su funcionamiento paso a paso y explicar con claridad por qué arrojan un resultado concreto y no otro.
Es cierto que la utilización de predicciones algorítmicas en el procedimiento jurisdiccional y administrativo sirve para introducir un baremo objetivo en el proceso de toma de decisiones que contrasta con la discrecionalidad y la arbitrariedad con las que en el pasado se resolvía por parte de algunos jueces y funcionarios en función de criterios estimativos, sin necesidad de motivación ni de control jurídico. Ahora bien, del mismo modo que el empleo de predicciones algorítmicas contrarresta el poder discrecional de quien dicta sentencias o aplica reglamentos, también debe haber una dotación de medios de control o verificación humana de los sesgos algorítmicos, de tal forma que no se consideren por parte del programador que entrena al algoritmo los datos o factores contrarios al artículo 14 CE. (LA LEY 2500/1978)
De conformidad con este estándar jurídico, las administraciones públicas tendrán en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, y, siguiendo las recomendaciones de la UE, promoverán "el uso de una IA ética, confiable y respetuosa con los derechos fundamentales". A hilo de este razonamiento sobre la pertinencia de la justificación o explicación de las decisiones públicas, y considerando los riesgos derivados del funcionamiento técnico de los algoritmos y de la IA empleados por la administraciones públicas, parece exigible al menos un mínimo de explicabilidad de los algoritmos, aún en el caso de que entendamos funcionalmente a los algoritmos como actuaciones administrativas y no como normas reglamentarias, de conformidad con lo establecido en los arts. 9.3 CE (LA LEY 2500/1978) y 35 Ley 39/2015, de Procedimiento Administrativo Común (LA LEY 15010/2015).
En sentido análogo, en el ámbito reglamentario de la UE se regula la reserva de humanidad (un ámbito de protección de los derechos y libertades fundamentales del que están excluidas las decisiones automatizadas basadas en el uso de sistemas algorítmicos de alto riesgo, por el Reglamento 2016/679 (LA LEY 6637/2016) del Parlamento Europeo y del Consejo relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (UE RGPD), en cuyo art. 22.1 se garantiza a quienes estén interesados el derecho a no ser objetos de decisiones individuales automatizadas, incluida la elaboración de perfiles, que produzca en ellos efectos jurídicos o les afecten significativamente. Por otra parte, en el art. 22.3 UE RGPD se introduce el control de humanidad (la supervisión humana) sobre la decisión automática para salvaguardar los derechos, las libertades y los intereses legítimos de los interesados.
Algunos autores plantean ya la conveniencia de amparar por vía constitucional el derecho de los ciudadanos al conocimiento de los algoritmos utilizados por las administraciones en la toma de decisiones automatizadas en el sector público. La justificación de la ampliación del reconocimiento constitucional a este pretendido derecho se motivaría por vía del art. 18.4 CE (LA LEY 2500/1978), en el que se consagran como derechos fundamentales la libertad informática y la protección de datos personales. Por cierto, esta interpretación abierta del art. 18.4 CE para integrar el derecho a conocer los algoritmos usados en la toma de decisiones parece haber encontrado receptividad en el legislador a través del derecho de acceso a la información pública regulado en la Ley 19/2013, de 9 de diciembre (LA LEY 19656/2013), y en la jurisprudencia constitucional reciente (STC 292/2020) a propósito de las facultades y poderes jurídicos que confiere al titular del derecho a la protección de datos.»
Javier Martínez Talamantes (Registrador de la Propiedad)
«La Justicia es un área humana que debe estar inspirada por una ética ontológica en el sentido aristotélico, esto es, por una serie de patrones o axiomas encaminados a la consecución de un fin ("la eudaimonía", representada aquí por la propia obtención de Justicia). Esta serie de patrones mínimos creo que son, en términos generales, admitidos y deseados por todos los ciudadanos: por un lado, el respeto a los derechos humanos, entre los que se ubican la presunción de inocencia y el derecho al honor y a la intimidad (artículos 11 (LA LEY 22/1948) y 12 de la Declaración Universal de los Derechos Humanos (LA LEY 22/1948)) y, por otro lado, en cuanto a nuestra relación con la tecnología, la primacía, siempre, del ser humano sobre la máquina (así deriva de las manidas leyes de Asimov). Estos serían los dos principios éticos básicos sobre los que debería pivotar tanto la programación de cada aparato tecnológico como el sistema de transformación digital.
El desarrollo o dotación de contenido de tales reglas mínimas es algo que, obviamente, debe corresponder al legislador, en tanto representante de todos los ciudadanos, si bien sería altamente recomendable que, para legislar sobre esta materia, se apoyaran en una suerte de "éforos" que les aconsejaran sobre la materia y que, a mi parecer, deberían ser tanto catedráticos de ética, filosofía política o filosofía del Derecho (para proporcionar un punto de vista más teórico) cuanto Jueces o Magistrados (quienes informarán con una perspectiva más práctica) ya que, de la sinergia de ambos cuerpos pensantes podrían obtenerse grandes conocimientos.»
Paula Bravo Martín (Specific Knowledge Analyst en NTT DATA)
«El ámbito judicial puede ser considerado como el ámbito de la Administración Pública más ligado a la propia intimidad del ciudadano pues, no olvidemos que la Justicia tiene por fin último preservar el orden y solventar las controversias que entre aquellos se puedan producir.
La aplicación de las Nuevas Tecnologías a la Justicia debe suponer una armonía y entendimiento entre los tres poderes del Estado: Legislativo, Ejecutivo y Judicial
En este sentido, la aplicación de las Nuevas Tecnologías a la Justicia debe suponer una armonía y entendimiento entre los tres poderes del Estado: Legislativo, Ejecutivo y Judicial. Todos deben entender las garantías y mejoras que las Nuevas Tecnologías conllevan, pero también prevenir, adelantarse y proyectar soluciones a los posibles riesgos que aquellas pueden suponer para nuestro Estado de Derecho. Detrás de toda tecnología se deben aplicar unas reglas de raciocinio y conciencia, basadas en los principios de imparcialidad, legalidad y responsabilidad que proclama nuestra Constitución Española (LA LEY 2500/1978).
Las reglas del juego deben seguir siendo fijadas sin vulneración de los derechos fundamentales y aportando seguridad jurídica desde su creación en una ley hasta su materialización final a través de su aplicación al caso concreto. Es nuestro propio ordenamiento jurídico quien impone las reglas éticas mínimas que debe evolucionan acordes a la sociedad y, por tanto, contemplando y adelantándose a las nuevas realidades.»
IV. La Transformación Digital se alimenta de datos, de datos personales. Datos cuyo valor no radica meramente en su potencialidad informativa sino también, y, sobre todo, en su capacidad predictiva. ¿Asistimos a un cambio de paradigma en la Administración de Justicia? ¿La Justicia será preventiva en vez de, como ocurre actualmente, de intervención posterior a los hechos controvertidos?
Moisés Barrio Andrés (Letrado del Consejo de Estado. Profesor de Derecho digital. Asesor de diversos Estados y de la Unión Europea en materia de regulación digital)
«Sin duda. La futura Ley de Eficiencia Digital del Servicio Público de Justicia brinda un sistema normativo completo, transversal y con la capacidad suficiente para dotar a los Tribunales de un marco legal sistemático en el que la relación digital se establece como la relación ordinaria y habitual. De este modo, la relación digital lo es por defecto, al estar amparada por un marco legal global que configura este nuevo cauce más veloz y eficaz, y que coadyuvará a una mejor satisfacción de los derechos de los ciudadanos. Esta culminación de la Justicia digital aporta innegables beneficios procesales de agilidad, mayor transparencia y menos coste, garantiza al mismo tiempo la salud y prepara al sistema para eventuales situaciones excepcionales futuras.
Junto a ella, la asimismo futura Ley de Medidas de Eficiencia Procesal del Servicio de Administración de Justicia modifica las normas procesales en el ámbito penal, civil, contencioso-administrativo y social, e implanta los medios adecuados de solución de controversias (MASC). Éstos tienen como finalidad que la transformación digital de nuestra sociedad tenga su reflejo correlativo en la Administración de Justicia, aumentando su agilidad, celeridad y eficiencia. Dentro de esta noción, el Proyecto de Ley identifica, como nuevos medios alternativos, los siguientes: mediación, conciliación (ante Notario, ante Registrador, ante el Letrado de la Administración de Justicia o privada), conciliación privada, oferta vinculante confidencial y opinión (dictamen) del experto independiente.
De este modo, van a coexistir ambos modelos. Debemos reflexionar, a la vista del caso concreto, cuál es el sistema más idóneo para resolver el conflicto de la forma más adecuada. Desde hace un tiempo, diversos operadores jurídicos y económicos —a semejanza especialmente de los países anglosajones— vienen potenciando los MASC a la vista de sus innegables ventajas que presentan sobre el proceso judicial, como son sus menores duración y coste o la flexibilidad que les caracterizan. Y en esa línea se enmarca el proyecto de Ley elaborado por el Ministerio de Justicia de potenciación de los medios adecuados de solución de controversias. Ahora bien, todas estas reformas requieren de la imprescindible cobertura presupuestaria para que un Estado de Derecho pueda atender, con garantías y en tiempo razonable, las demandas de los ciudadanos y de los operadores en general.
En fin, a medio plazo asimismo he defendido (1) que debemos contar con un orden jurisdiccional propio para los asuntos digitales, que resuelva sus controversias en horas y días, y no en meses o en años, adaptado así a los procedimientos y tiempos de resolución del mundo digital.»
José Díaz Cappa (Fiscal)
Asistimos, sí, sin duda, a un cambio en la Administración de Justicia, a un cambio esencial y novedoso, pero no tanto, creo, de carácter paradigmático, pues lo verdaderamente cambiante no serán los supuestos básicos (la información y los datos), sino el tratamiento de la ingente cantidad de los mismos, la evitación de su manipulación, su formas de acumulación y de gestión, así como la determinación ético-normativa de su uso potencial en la Administración de Justicia, entre otras muchas cuestiones, y, especialmente, en las fórmulas de selección de dichos datos e información para la configuración o para formar parte de la base de decisiones judiciales. Ya saben, evitando en todo caso los sesgos discriminatorios o de predisposición a decisiones de uno u otro calado. Al respecto, la citada Ley 15/2022 (LA LEY 15917/2022) recoge que «las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente», y «priorizarán la transparencia en el diseño y la implementación y la capacidad de interpretación de las decisiones adoptadas por los mismos».
En cierto modo ya existe una «justicia preventiva» en muchos aspectos, pero la dificultad estriba en conseguir la prevención en base a la predicción, sin limitaciones de derechos ni propuestas discriminatorias, con todo lo que esto conlleva. Una predicción que, en cualquier caso, no podría conseguirse a su vez sin unos datos previos o información sobre la conducta o sobre la persona a prevenir, y que resulta inicialmente difícil de concebir en el campo del derecho privado o a instancia de parte, y sí solo, con más opciones, en el campo del derecho público, especialmente el derecho penal (también quizás en el administrativo sancionador).
En este sentido, ya comenté en aportaciones anteriores, que el posible dilema ético en esta toma de decisiones no creo que fuera diferente al actual, pues la decisión será siempre humana, como ahora, aunque ayudada de elementos de deducción racional colaborativa artificial que puedan favorecer el proceso decisorio. Una cosa es la capacidad de deducción y otra la capacidad de decisión, siendo muy difícil considerar un grado de certeza absoluto sobre el posible proceder delictivo de alguien, debiendo superarse estereotipos; valorar tendencias criminales concretas de un individuo; eliminar los riesgos de los llamados «juicios de peligrosidad»; buscar los factores distintivos entre la prevención, la predicción y la predelincuencia, así como las aportaciones positivas de unos a otros —pues, como también comenté en su momento, la justicia predictiva sí pudiera servir como eficiente fórmula preventiva en muchos casos (p. ej, medidas cautelares o proporcionalidad de la pena)—; y, especialmente, delimitar y superar los factores discriminatorios de los posibles sesgos algorítmicos utilizados.
Sería sensacional que hubiera una capacidad predictiva en el campo del Derecho como existe ya en medicina, por ej, posibilitando detectar la inminencia de un ataque al corazón por el tono de la voz, pero una predicción relacionada con las volubles y cambiantes reacciones humanas, se hace más complicada.
Fernando Llano Alonso (Catedrático de Filosofía del Derecho de la Universidad de Sevilla.)
«Tradicionalmente, el poder discrecional de los jueces en la interpretación y la aplicación del derecho se ponía de manifiesto ante los defectos lógicos de los sistemas jurídicos (lagunas y antinomias normativas), en los casos de vaguedad e indeterminación jurídica donde se delegaba a los tribunales ciertos márgenes de discrecionalidad en la interpretación abierta de los principios y los standards para conseguir regular una vida social que desborda los rígidos esquemas del iuspositivismo normativista y formalista.
La justicia predictiva restituye, sin embargo, el viejo juicio de subsunción que permite establecer correlaciones entre casos y soluciones. La búsqueda de la certeza y la precisión en las predicciones algorítmicas hace que quienes defienden la preponderancia de justicia digital frente a la justicia procedimental cuestionen los principios y algunas reglas por su indeterminación, de ahí que, en los últimos tiempos, se haya ido abriendo paso la vía de la microdirectiva algorítmica, que anula prácticamente la discrecionalidad judicial, y sustituye la proporcionalidad y la ponderación judicial por la exactitud aritmética.
En definitiva, si como se declara en las Instituciones de Justiniano, el ideal de la justicia es "la firme y perpetua voluntad de dar a cada uno lo suyo" (Iustitia est constant et perpetua voluntas ius suum cuique tribuens), es sustituido por el automatismo de la justicia digital que opera a partir del procedimiento que marca el algoritmo, cabe preguntarse quién controla la ausencia de sesgos y la imparcialidad del creador del algoritmo (un informático supuestamente asesorado por juristas); es decir, si en la justicia ordinaria y humana cabe recurrir las sentencias judiciales bien sea por falta de motivación, o por incongruencia entre lo razonado y lo resuelto, o por vulneración de algún precepto legal, o incluso por indefensión, cuando quien apela entiende que se ha vulnerado su legítimo interés tras haberle sido denegadas por falta de validez algunas pruebas trascendentales, tratándose del diseño de algoritmos en programación ¿quién garantiza la transparencia y el respecto al principio de legalidad en el desarrollo del mismo, desde la entrada hasta el resultado?; en otras palabras, parafraseando a Juvenal: Quis custodiet ipsos custodes?»
Javier Martínez Talamantes (Registrador de la Propiedad)
«El punto de partida creo que debería consistir en plantearse si la justicia no realiza, también, una función preventiva. A mi parecer, la justicia (obviamente, la legislación también y, quizá, en mayor medida) ya ejerce una función preventiva. Cuando el justiciable contempla que los actos revisten consecuencias fáctico-judiciales, se sitúa ante la realidad actual y puede prevenirse de actuar si quiere evitar las consecuencias judiciales que se han producido en actos similares. La correlación lógica de lo anterior es que la Transformación Digital no supone una nueva función que antes no existiera, si no un nuevo matiz o nueva perspectiva de dicha función.
A cualquier amante del cine, cuando le planteen esta cuestión, su mente le ubicará en Minority Report, la famosa película de Spielberg. Y no es una referencia (en el sentido russelliano) baladí. ¿Es esto "lo preventivo" que va a traernos la TD? ¿Una anticipación a los hechos, hechos que jamás han acaecido y que, por lo tanto, no podemos aseverar que se producirán? ¿Es eso justo? Creo que no.
Recuerdo a mi profesor de Derecho Penal explicándonos la aberración que se cometía en ciertos momentos de la Edad Media, en los que se presumía que una persona que tuviera cierta forma craneal era propensa a cometer crímenes. En base a ello podía llegar a ser declarado culpable. Esta labor "preventiva" que se dice traerá la IA puede convertirse en un fenómeno similar a aquello.
¿Vamos a dejar en manos de logaritmos la determinación predictiva de que X persona(s) va(n) a realizar un acto ilícito o que tiene(n) un 80% de posibilidades de, por ejemplo, cometer un delito? Y, una vez determinada esa proporción, ¿cuál es la sanción? ¿prisión? ¿trabajos para la comunidad? Veamos otro caso, la IA nos dice que una persona tiene un 70% de incumplir un contrato ¿le aplicaríamos, por ello, la cláusula penal estipulada? ¿sin mayor valoración? ¿automáticamente?
En conclusión, quien manifieste que la IA traerá una justicia preventiva, ignora que la justicia ya es preventiva y que, como todo en la vida, lo importante es dotar de contenido a ese concepto de "prevención".
Lo que sí considero, sin duda, es que la predicción jamás puede consistir en juzgar sobre hechos no producidos y existe un claro riesgo de que la Transformación Digital predictiva derive en ello.
Quién le iba a decir a cierto equipo de fútbol que ganaría una eliminatoria cuando en el minuto noventa la IA le daba un 1% de posibilidades de éxito. Si hubiera sido un caso judicial ¿habríamos resuelto justamente?»
Paula Bravo Martín (Specific Knowledge Analyst en NTT DATA)
«El dato es, actualmente, uno de los activos más importante de la Justicia, pero para ello todos los operadores jurídicos deben ser conscientes de la importancia de este activo desde el mismo momento en el que es registrado, por ejemplo, en un Sistema de Gestión Procesal. Tomar conciencia e inculcar una cultura del dato desde dentro de la Administración de Justicia es uno de los grandes retos a los que ésta se enfrenta.
Existe un cambio de paradigma, pero desde el respeto al Estado de Derecho en el que nos encontramos y garantizando en todo caso la seguridad jurídica de los ciudadanos. No supone romper con lo anterior sino ser conscientes de la riqueza que los datos permiten obtener y utilizarlos para mejorar la visión que el ciudadano tiene de la Justicia, transparentando lo que ocurre dentro de la misma y permitiendo alcanzar el desarrollo de políticas públicas no sólo, mediante el análisis de datos judiciales, sino también gracias a la interoperabilidad con otras fuentes de datos existentes en diferentes ámbitos de la Administración Pública y organismos externos.
El dato permite también caminar hacia modelos predictivos, con fundamento en ciertos patrones, pero no debe suspenderse nunca la parte emocional, intuitiva y en definitiva humana que existe detrás de la Justicia. Basar la función jurisdiccional, en su mayor parte, en la capacidad predictiva del dato podría conllevar a un empobrecimiento, por ejemplo, de la doctrina jurisprudencial. La jurisprudencia nace por la facultad de juzgar que no puede ser sustituida por herramientas predictivas pues aquella es entendida como la propia ciencia del Derecho.
Sí permitirá, sin embargo, conocer en tiempo real la situación de la Justicia pudiendo hacer foco en ámbitos que necesiten de una nueva regulación, necesidad de especialización de órganos judiciales, medición del rendimiento de nuevas leyes una vez entren en vigor, identificación de posibles fuentes que supongan congestión de la Justicia, etc.
La Justicia predictiva debe tomar valor especialmente en la capacidad de adelantar políticas públicas otorgando inmediatez y rompiendo con la concepción del ciudadano de una Justicia lenta y no reactiva ante problemas sociales actuales permitiendo dar respuesta de una manera mucho más rápida no sólo por el conocimiento de lo que esté ocurriendo en tiempo real sino también por la aplicación de las nuevas tecnologías en el mundo judicial.»
V. Desde un parámetro ético: ¿deben establecerse límites normativos o tecnológicos al desarrollo de la Inteligencia Artificial en el sector legal? ¿De qué tipo?
Moisés Barrio Andrés (Letrado del Consejo de Estado. Profesor de Derecho digital. Asesor de diversos Estados y de la Unión Europea en materia de regulación digital)
«En efecto. Y así lo lleva a cabo la futura Ley de Eficiencia Digital del Servicio Público de Justicia. Su título III alberga el capítulo VII, titulado "De las actuaciones automatizadas, proactivas y asistidas", comprensivo de los artículos 56 al 58, y que constituye una de las novedades tecnológicas de calado del Proyecto, concretamente estas últimas. Mientras que el artículo 56 del Proyecto, que tiene por objeto las actuaciones automatizadas y proactivas, constituye una mejora y ampliación de las posibilidades abiertas por el artículo 22 de la Ley 18/2011 (LA LEY 14138/2011), que ya prefiguraba este tipo de actuaciones producidas automáticamente por los sistemas de información y comunicación en el ámbito de la Administración de Justicia (los SIC), el artículo 57 del Proyecto incorpora destacadamente técnicas de inteligencia artificial (IA) como instrumento de apoyo al ejercicio de la jurisdicción en las llamadas actuaciones asistidas.
Concretamente, las actuaciones asistidas se regulan en el artículo 57 del Proyecto y se definen como aquellas para las que los SIC generan un borrador, total o parcial, de documento complejo con base en datos, que puede ser producido por algoritmos, y puede constituir fundamento o apoyo de una resolución judicial. El precepto establece también que dicho borrador documental sólo se generará a voluntad del usuario, "que podrá ser libre y enteramente modificado por éste", y que "en ningún caso el borrador documental constituirá la resolución judicial procesal sin la validación por parte de la autoridad competente", sea Juez o Magistrado, Fiscal o Letrado de la Administración de Justicia.
La incorporación de la inteligencia artificial en la Administración de Justicia debe llevarse a cabo de forma prudente y dotada de las máximas garantías
A mi juicio, sin desconocer las ventajas que supone la incorporación de la inteligencia artificial en la Administración de Justicia, estimo que tal incorporación debe llevarse a cabo de forma prudente y dotada de las máximas garantías. En este sentido, la próxima regulación del Derecho de la Unión Europea contenida en la precitada Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial y actualmente en tramitación, califica como sistemas de inteligencia artificial de "alto riesgo" a aquellos sistemas destinados a ayudar a una autoridad judicial en la investigación e interpretación de los hechos y el Derecho y en la aplicación de la ley a un conjunto concreto de hechos. Estos sistemas de alto riesgo están sometidos a un exigente régimen de control, supervisión y transparencia contenido en los artículos 8 y siguientes de la Propuesta de Reglamento.
Considero que la IA debe integrarse en la Administración de Justicia como un medio o instrumento de ayuda para su agilización y gestión, pero de forma segura, responsable y transparente, previa evaluación de su impacto, especialmente cuando atañe a los derechos fundamentales, y con una articulación ex lege de mecanismos adecuados para su gobierno y control, de modo que sirva incluso como herramienta de apoyo para la toma de decisiones por parte de quién debe ejercer la potestad jurisdiccional.»
José Díaz Cappa (Fiscal)
Ya se pretende, por ejemplo, con ChatGPT. A la pregunta concreta, entiendo que no es posible, o al menos es complicado, poner límites tecnológicos al desarrollo de la IA o a cualquier otro avance de tal naturaleza. Sí será lógicamente necesario concretar límites legales a la aplicación y uso de aquellos avances, y ello no estará exento de las valoraciones éticas de todo tipo que antes he comentado. Además, la ética valorable habrá de ser la mayoritaria, la común, la social y tanto en el aspecto del deber normado como en el de la moral, o, en términos de Filosofía del Derecho, con la búsqueda de la relación de éste con el actuar humano y sus proyecciones culturales. En relación con la Administración de Justicia, los límites normativos derivados de la ética aplicada deben ser respetuosos también con el aplicador de la norma y no solo con el destinatario de esta, reservando para aquel el espacio racional que le corresponde, evitando encorsamientos y pretendidas pautas de control derivadas de los nuevos referentes tecnológicos.
Fernando Llano Alonso (Catedrático de Filosofía del Derecho de la Universidad de Sevilla.)
«El debate contemporáneo en torno a la crisis de la sociedad de las Nuevas Tecnologías no puede entenderse en su plenitud sin una obligada referencia a ese remoto hombre auroral que se encuentra por azar con la técnica y que, con el paso del tiempo, aprende primero a coexistir con ella, más tarde aspira a dominarla para transformar su mundo y finalmente termina convirtiéndose en lo que Ortega y Gasset denomina metafóricamente un centauro ontológico, esto es, "un ser que media porción de él está inmersa, desde luego, en la naturaleza, pero la otra parte trasciende de ella". Este neohumanismo de Ortega, que ensaya y vislumbra el porvenir de lo humano, no es una suerte de "neoidealismo que demoniza la técnica", sino que supone una oportunidad de conciliar el progreso tecnológico con las humanidades. Ahora bien, para la consolidación de la tercera vía que representa el humanismo tecnológico como alternativa al dilema que separa a los apocalípticos (contrarios al avance de la ciencia y la tecnología) de los integrados (que todo lo confían a su fe en el cientificismo) es preciso establecer los límites de la IA en un doble plano educativo-cultural y ético-jurídico.
En lo concerniente al ámbito educativo-cultural, la garantía de un avance científico-tecnológico que no sea lesivo respecto a los derechos humanos, exige la promoción de una ética de la IA y una apuesta clara por la recuperación del cultivo las humanidades en los planes de estudio escolares, de manera que se eduque en valores humanistas y se fomente el espíritu liberal y crítico entre los estudiantes de colegios e institutos. En este sentido, Martha C. Nussbaum sostiene que la democracia necesita el refuerzo de las Artes y las Humanidades, y que una educación en valores y principios humanistas no es incompatible en absoluto con una buena formación técnico-científica que prepare a nuestros jóvenes para los retos profesionales que les esperan en un futuro que estará marcado por la omnipresencia de la IA y la robótica superavanzada. De hecho, afirma la pensadora estadounidense, lo deseable sería que en los planes de estudio se complementasen las ciencias y las humanidades de manera que se eduque a los estudiantes en el librepensamiento, que se les acompañe en el descubrimiento y el desarrollo de sus capacidades creativas y críticas, y sobre todo, que se les enseñe a contemplar el mundo con una mirada amplia, abierta, tolerante y cosmopolita.
Por lo que respecta a la dimensión ético-jurídica de la IA, su consideración —como se verá en el próximo epígrafe— obedece a la necesidad de la construir de un marco normativo que regule el desarrollo, desenvolvimiento y uso de la IA, robótica y tecnologías anexas desde un punto de vista antropocéntrico y antropogénico. Los principios y los valores humanistas que inspiran la ética de la IA no bastan para asegurar la inviolabilidad de las libertades y los derechos humanos, ni garantizan el respeto de la dignidad de la personas por parte de la superinteligencia artificial; de ahí que, en el Parlamento Europeo, en su Resolución de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la IA, la robótica y las tecnologías conexas haya destacado la importancia del enfoque antropocéntrico y antropogénico de la IA, y haya exhortado a que cualquier nuevo marco regulador para la IA que prevea obligaciones jurídicas y principios éticos para el desarrollo, el despliegue y el uso de la IA, la robótica y las tecnologías conexas, exhorte a que estas tecnologías emergentes se adapten a las necesidades del ser humano, y estén siempre a su servicio, nunca al revés.»
Javier Martínez Talamantes (Registrador de la Propiedad)
«Como en tantos otros apartados de la vida, la cuestión que se plantea puede reconducirse a los dos grandes movimientos ideológicos que han existido (también, claro, en el ámbito de la ética jurídica): los movimientos liberales y los movimientos intervencionistas.
Podemos dejarnos llevar por el laissez faire y esperar que sean los acontecimientos vitales los que nos digan si articular una IA ilimitada es un acierto y, simplemente, ayuda a mejorar la vida humana en todos los aspectos o si van surgiendo problemas y no va siendo demasiado tarde para resolverlos. Podemos, incluso, entender que, si la IA ilimitada acaba sustituyendo al ser humano, en tanto nueva especie dotada de mayor inteligencia, ello también será evolución y, si bien no para la especie humana, sí será algo exitoso para "la Historia" (en el conocido libro de Harari Homo Deus rezuma esta idea). Todo ello, con los matices oportunos, entraría dentro de la idea de no establecer límites al desarrollo de la IA.
Sin embargo, si queremos (aquí sí en sentido propio) llevar a cabo una labor preventiva, sí parece razonable articular límites a la IA.
Y existen muchos apartados de la vida en los que sí debería limitarse, según la perspectiva intervencionista, la IA, de tal modo que no se le deje evolucionar tan rápido que se escape de nuestro control.
El filósofo J.A. Marina expone que nuestro cerebro está siendo modificado por las nuevas tecnologías y que así se revelará en un tiempo futuro, del mismo modo que la numeración árabe supuso una nueva configuración de la mente, mucho más sistematizada y clara que con la antigua numeración griega, por ejemplo. Pero el propio filósofo asevera que no siempre han sido positivos los cambios en dicha configuración mental y que, por ejemplo, la necesidad de inmediatez y de falta de reflexión consecuencia de las nuevas tecnologías es altamente peligrosa para nuestra capacidad de raciocinio.
Quizá recoger límites temporales a la utilización de ciertas IA (por ejemplo, las que citábamos como IA logarítmicas que establecen probabilidades de comisión de delitos) o someterlas a períodos de ralentización, con el fin de que neurocientíficos e investigadores puedan realizar estudios serios acerca de cómo eso afecta a la mente humana no sería una limitación descabellada.
Me planteo los beneficios de decelerar ciertas IA en relación con los riesgos y creo que es más inteligente ser el paciente oso ante el duro invierno que la agitada musaraña incapaz de frenar en sus excesos.»
Paula Bravo Martín (Specific Knowledge Analyst en NTT DATA)
«Todo desarrollo que suponga un avance en la sociedad respecto a la situación conocida anteriormente requiere la necesidad de fijar unos parámetros éticos y normativos que permitan actuar en términos de igualdad y cohesión, minimizando los posibles riesgos que la inteligencia artificial pueda conllevar contra derechos y bienes jurídicos de los ciudadanos, así como de los datos que sobre ellos existen en nuestro sistema judicial.
Es claro que debe fijarse el contexto y el ámbito de actuación de la inteligencia artificial aplicada por profesionales de la misma, de forma que no se destruya la figura del operador jurídico en la creencia falsa de que todo aquello que la inteligencia artificial pueda realizar estará libre de errores o equivocaciones.
Esta falsa creencia puede suponer un abandono del sentido de la responsabilidad al confiar plenamente en, por ejemplo, una decisión tomada por medio de inteligencia artificial en base a ciertos algoritmos. No debe perderse de vista todo el razonamiento judicial que existe cuando un juez juzga y hace ejecutar lo juzgado, estudiando el caso concreto y dictando sentencia en base a las particularidades propias del mismo.
La inteligencia artificial será siempre una herramienta de ayuda y mejora a ese razonamiento judicial pudiendo proponer soluciones en base a asuntos similares, pero nunca se debe dejar de lado la esencia humanista por parte del profesional del Derecho.
Ello implica la necesidad de establecer una regulación de la Inteligencia Artificial que pase por regular por qué, cómo, para qué y por quién debe ser aplicada. Regulación que debe ir desarrollándose y actualizándose conforme avance el desarrollo de esta tecnología, pero estableciendo en todo caso los criterios base sobre los que asentarse y aquellos sobre los que aporta valor añadido consiguiendo así sustituir funciones tediosas y mecánicas que redunden en mayor eficiencia y eficacia de la Justicia.»
VI. Metaverso está proporcionando, por ahora sólo la idea, de una realidad paralela a la vida «real». ¿Regirán las mismas reglas jurídicas y morales en Metaverso o debemos adaptarlas? ¿Cuál es la diferencia a efectos jurídicos entre una vida «física» y una vida «digital»?
Moisés Barrio Andrés (Letrado del Consejo de Estado. Profesor de Derecho digital. Asesor de diversos Estados y de la Unión Europea en materia de regulación digital)
«En buena parte, el Metaverso es objeto de gran atención y altas expectativas porque, presuntamente, es un "nuevo" espacio en el que no hay leyes, y algunos erróneamente lo equiparan a la primigenia Internet de los años 90. En cambio, ya hay normas jurídicas en vigor que son aplicables en el Metaverso, como son los grupos normativos relativos a los servicios digitales (en puridad, jurídicamente son servicios de la sociedad de la información), los datos, la propiedad intelectual, la ciberseguridad y la inteligencia artificial.
Ahora bien, de momento no existe un único Metaverso. En 2023 podemos encontrar metaversos dedicados a los deportes, películas, obras de arte, casinos, construcción, comercio electrónico, relaciones sociales y otras tantas aplicaciones. De este modo, al igual que existe la Web y los sitios web, existe el Metaverso y los "metaversos" en plural. Aludir al Metaverso se refiere a la ambición de proporcionar la interfaz para el Metaverso y sus metaversos. Es decir, una suerte de programar el navegador para acceder a la Web de forma universal.
El «Metaverso», aunque en realidad deberíamos hablar de metaversos en plural, ya que no existe por el momento una única plataforma y no es probable que pueda lograrse a medio plazo, lo he definido (2) en un reciente artículo académico del modo siguiente: "una aplicación de Internet que consiste en un ecosistema virtual y tridimensional (3D) en el que los usuarios interactúan entre ellos, desarrollan actividades de ocio (muy destacadamente, jugar a videojuegos o e-sports), entablan relaciones económicas o de cualquier otro tipo, como sucede hoy en la Red". Por tanto, sin Internet no hay metaversos (pero no a la inversa).
El Metaverso (con mayúsculas de nombre propio) aspira, por tanto, a crear todo un nuevo mundo virtual que complemente, mejore —e incluso sustituya, según algunos— al mundo físico, digitalizando por el momento algunas experiencias de índole lúdica, educativa, social, laboral, de información, de comercio electrónico, etc. Así, Second Life, Fortnite, Minecraft y Roblox son ejemplos de juegos colaborativos y de construcción de mundos que incluyen ciertas características del Metaverso en su forma de jugar.
Es decir, el Metaverso sería una versión 2.0 del ciberespacio, diferenciada por basarse en un ecosistema virtual y tridimensional, donde sus participantes interactúan social y económicamente como avatares, a través de una plataforma específica que se construye como una metáfora del mundo real, pero sin los condicionamientos físicos, económicos y jurídicos del mundo offline. Devendrá un mundo en 3D que se superpondrá al mundo real, donde los participantes podrán comprar, jugar y entablar relaciones en entornos virtuales colaborativos. Muy resumidamente, el Metaverso será la próxima versión evolucionada y en 3D de las actuales redes sociales en 2D.
Por eso, sus interacciones están condicionadas por la tecnología y por lo que permite la plataforma en cuestión. No existe una plena libertad digital en el Metaverso, sino que el titular de la plataforma determina lo que podemos realizar en su seno.»
José Díaz Cappa (Fiscal)
Metaverso es un término muy, muy amplio, y acercarlo por el momento al mundo (real) de la Justicia parece, cuanto menos, extraño y ciertamente alejado, sobre todo cuando faltan muchos pasos previos básicos que caminar, como hemos visto. Es evidente, sin embargo, que todo está llegando y que la incidencia del Metaverso en la Administración de Justicia es posible que venga de la mano de las opciones virtuales para ciertas actuaciones procesales judiciales (p. ej. comunicaciones o declaraciones en plataformas virtuales con simultaneidad de algunos operadores o intervinientes) —con todo lo que a ello trasciende sobre la llamada identidad digital, la privacidad, etc.-, o, por otro lado, mediante la necesidad de dar respuesta jurídica o de valoración probatoria a situaciones, digamos, «metavérsicas» como las relacionadas ya con algunas fórmulas de comercio electrónico recogidas en la Ley 34/2002 (LA LEY 1100/2002). Alerta habrá de estar, sin duda, a las confusiones derivadas de realidades paralelas o alternativas (les dejo este enlace como muestra (Una mujer sufre una violación a través de su avatar en el metaverso (antena3.com)). Por ello, es seguro que habrá de fomentarse una cultura ética específica para algunos aspectos del Metaverso que dará pie a una regulación normativa adaptada a la misma.
En cuanto a la diferencia a efectos jurídicos entre una vida «física» y otra «digital», entiendo que ya lo estamos viviendo, siendo evidente la transcendencia o incluso el solapamiento o sustitución de unas y otras en muchas facetas de nuestra vida actual, sin grandes diferencias a veces. Otra cosa será la distinción entre estas y la vida «virtual» que pueda derivarse del Metaverso al que hemos aludido y de las consecuencias de todo tipo que de ello se deriven.
Fernando Llano Alonso (Catedrático de Filosofía del Derecho de la Universidad de Sevilla.)
«El metaverso no es un concepto reciente; como se recordará, a principios del presente siglo se lanzó Second Life, una plataforma multimedia en línea en la que los usuarios creaban un avatar y construían una segunda vida digital. Con el transcurso del tiempo, este metaverso original diseñado por la compañía tecnológica Linden Lab se convirtió en un arquetipo de metaverso que serviría como referencia a otros metaversos desarrollados posteriormente en la web 2.0 y en la web 3.0. En resumidas cuentas, el metaverso no se consiste en una experiencia unitaria en un espacio digital compacto, sino en la migración de la experiencia humana desde el mundo físico hasta numerosos mundos virtuales en los que, como sostienen los autores de un estudio reciente sobre el futuro marco jurídico del metaverso, la tecnología tiene la oportunidad de llevar contenido a esos mundos de maneras nunca antes imaginadas y, con ello, problemas y desafíos legales nunca antes contemplados.
La progresiva implantación del metaverso (en el ámbito de la diversión, del comercio, de la salud y de la educación) ha generado una serie de supuestos y novedades desconocidos hasta ahora en nuestra experiencia jurídica. Es cierto que, en algunos casos, se podrían ajustar algunas leyes existentes para la regulación de cuestiones novedosas planteadas por la irrupción de las Nuevas Tecnologías; sin embargo, si se considera la inconmensurabilidad del espacio abierto en el que se expande el metaverso, cabe deducir que la adaptación legal y jurisprudencial a esa nueva realidad virtual que es jurídicamente vinculante no será fácil, en la medida en que las leyes existentes resultan ya insuficientes para regular los problemas causados en el espacio digital por un metaverso que ha roto las costuras de los sistemas jurídicos existentes.
El alcance de todas las leyes y regulaciones que podrían estar implicadas en un metaverso es prácticamente ilimitado y puede generar innumerables problemas legales. Así, por ejemplo, en materia de propiedad intelectual, la creación de nuevos tipos de NFT ha causado no pocas controversias y consultas legales respecto al alcance del derecho a utilizar el contenido en poder del propietario del NFT (en la praxis judicial más reciente la mayoría de las reclamaciones relativas al contenido del metaverso afectan a los derechos de autor, marcas comerciales y derechos de publicidad). Por otra parte, el uso y la explotación de los derechos de propiedad intelectual previamente licenciados o adquiridos en el metaverso plantean cuestiones novedosas para los licenciatarios y adquirentes en torno a la amplitud y el alcance de los derechos que han obtenido en virtud de acuerdos que pueden haber precedido durante mucho tiempo a Internet, y en menor medida al metaverso.
La problemática de los proyectos metaversos se extiende también a otras áreas legales, como, por ejemplo, las de la intimidad y la ciberseguridad.
En relación con la garantía de la privacidad en el proceso de recopilación, uso y transmisión de datos personales, los metaversos tienen capacidad para recopilar una información muy diversa que puede ir desde la información básica de identificación hasta recabar datos sobre el movimiento y las actividades del usuario en el metaverso. A este respecto, por un lado, se va evidenciando cada vez más la necesidad de aprobar una legislación dedicada precisamente a la protección de la intimidad en el ámbito del metaverso e incluso, junto a la oportunidad de contar con una jurisdicción especializada en derecho digital e IA jurídica; por otro lado, también los creadores y desarrolladores de los proyectos metaverso deberían considerar la implementación de medidas que aseguren el cumplimiento de los requisitos legales de privacidad y la observancia de unos mínimos estándares ético-jurídicos en los contenidos de los metaversos.
Respecto a la cuestión de la ciberseguridad, los proyectos metaversos plantean también problemas y cuestiones novedosas a las compañías tecnológicas que los crean y desarrollan, sobre todo de cara a asegurar la protección de sus sistemas de información y procesamiento de datos personales de sus usuarios ante un eventual ciberataque.
En definitiva, aunque el metaverso se encuentre todavía en una fase inicial de implantación tecnológica, a medida que vaya evolucionando y expandiéndose su uso, tanto a nivel profesional como doméstico, es presumible que también se incrementarán el número de incidencias y reclamaciones entre los usuarios; precisamente por eso se hará cada vez más evidente la necesidad de establecer un marco regulatorio del metaverso para tratar de anticipar —en la medida de lo posible— respuestas legales a los nuevos problemas legales que presente el metaverso.»
Javier Martínez Talamantes (Registrador de la Propiedad)
«¿Quién sabe qué deparará esa vida digital? Retomando las referencias televisivas, hay un capítulo de la serie Black Mirror en que el personaje crea una suerte de "Metaverso" en el cual todo es como él desea. ¿Va a ser eso el metaverso? ¿Podremos convertirnos en estrellas del rock o del fútbol o llevar la vida que consideramos "perfecta" en ese metaverso? ¿En ese metaverso podremos sentir? ¿Sufriremos consecuencias fisiológicas de lo que allí acaezca cuando volvamos a la vida real? ¿O será, simplemente, una ficción? Son tan complejas las cuestiones relacionadas con esta materia que dar una respuesta que no adolezca de ser excesivamente hipotética resulta casi imposible.
Si Metaverso es sólo una ficción y no se recoge límite alguno ¿podemos garantizar que el espíritu humano, una vez saboreada la satisfacción ilimitada de sus apetitos, será capaz de respetar los límites morales y jurídicos que existan al volver a la vida real?, profundizando más… ¿le merecerá la pena al individuo volver al mundo limitante y abandonar el mundo ilimitado?
Hay ficciones actuales (v.g. juegos de videoconsolas) en que no se respetan axiomas jurídicos y morales básicos (el derecho a la vida o a la integridad física de los demás, por ejemplo). Los ha habido desde la invención de los videojuegos. Pero el Metaverso es una realidad radicalmente nueva. La vida hecha ficción. Y, si la ficción puede pasar de ser algo coyuntural a un elemento estructural de nuestras vidas, ¿no vamos a recoger ningún principio ni límite ético?
La ponderación como guía de actuación y regulación suele ser una buena consejera, tal y como nos enseñó Aristóteles. Y, si relacionamos la ponderación con la paciencia, no es difícil entender que lo más inteligente consiste en ir legislando el metaverso (y, en su caso, limitarlo, por ejemplo, con la exigencia de respeto a los derechos humanos) a medida que vayamos observando su evolución y los reflejos en el comportamiento humano en la vida "real".
O, quizá, exigiendo el citado respeto a los derechos humanos como cuerpo normativo básico (jurídico y moral) desde el principio, para conseguir tomar el control desde el inicio.»
Paula Bravo Martín (Specific Knowledge Analyst en NTT DATA)
«Al igual que se trabaja en un Reglamento de Inteligencia Artificial a nivel europeo y que en España se ha creado la Agencia de Inteligencia Artificial para dotar de seguridad jurídica el uso de la misma aplicada al mundo judicial, se hace necesario la determinación de una legislación que establezca la línea base y los límites sobre las que el metaverso debe crecer y desarrollarse entendiendo que, detrás de todo desarrollo normativo, existe la aplicación práctica de cierta ética que debe regir el comportamiento en este ámbito con respecto a las normas constitucionales pero adaptadas a la realidad social en la que nos encontramos.
Una realidad virtual no debe sustituir a la vida real pero sí complementarla y nutrirse de ella, especialmente en ámbitos experimentales como simulacros de casos prácticos reales y fuente especialmente relevante en ámbito formativos de los potenciales operadores jurídicos. Los posibles efectos jurídicos del metaverso aplicados a casos reales deben ser regulados con especial rigor, identificación de las posibles infracciones a cometer y su respuesta a aquellas. Especialmente su aplicación en un mundo judicial requerirá su control dentro de una red segura del Ministerio, control en el acceso a esta realidad y acotar el ámbito sobre el que cada usuario actuará de forma que, él mismo, no pierda el control y distorsione aquello que es real de lo que no lo es y se crea impune ante la comisión de ilícitos realizados por medio de su avatar, atentando contra los bienes jurídicos del resto de usuarios con los que interactúe. En este sentido, y al igual que en la vida real, existen unas limitaciones respecto a aquellos ciudadanos con antecedentes penales, se deben establecer condiciones de acceso a esta realidad paralela para aquellos que tengan antecedentes en esta otra realidad.
Es de especial relevancia, por tanto, que el desarrollo normativo del metaverso se impulse por especialistas en la materia, no sólo conforme a la situación actual sino con perspectiva de futuro siendo conscientes de los efectos jurídicos e ilícitos objeto de comisión para aplicar el metaverso a ámbitos acotados que conlleven la mejora del Servicio Público de Justicia por los propios usuarios de la misma y redunde en favor del ciudadano.»
VII. Jueces robot, Chat GPT, Expediente Judicial Electrónico… ¿Qué podemos esperar de la Justicia «del futuro» y de su relación con la Ética? ¿Existe este debate en las universidades, escuelas judiciales, empresas de ingeniería informática, etc.?
Moisés Barrio Andrés (Letrado del Consejo de Estado. Profesor de Derecho digital. Asesor de diversos Estados y de la Unión Europea en materia de regulación digital)
«La digitalización del servicio público de Justicia ha llegado. Hoy, en 2023, las herramientas y aplicaciones de IA son utilizadas por las autoridades judiciales en varios países del mundo, en particular en apoyo de decisiones de prisión preventiva o para dictar sentencias, calcular las probabilidades de reincidencia y determinar la libertad condicional, resolver litigios en línea, gestionar la jurisprudencia y facilitar el acceso a la Justicia. Así lo acabamos de analizar en la 2.ª edición del libro Legal Tech. La transformación digital de la abogacía, Ed. La Ley, 2023, que he tenido la fortuna de dirigir.
Todos los operadores jurídicos tenemos que resolver el reto de que esta transformación digital logre una auténtica mejora del sistema y de las personas
Todos los operadores jurídicos tenemos que resolver el reto de que esta transformación digital logre una auténtica mejora del sistema y de las personas. Es decir, que la Justicia digital sea eficiente y garantista. En este punto, la regulación europea y española en tramitación resulta crucial para encauzar el proceso y desterrar aquellos sistemas de IA que incurran en sesgos ilícitos o menoscaben la debida protección de los derechos y garantías de los justiciables, siendo esenciales el derecho a un uso seguro y confiable de los mismos. A mi juicio, es esencial establecer controles a lo largo de todo el ciclo de vida del sistema, con inspecciones de auditoría ejecutadas de forma periódica.
La Justicia digital no puede suponer un menoscabo de los derechos fundamentales. Especialmente debe respetar los derechos de dignidad humana, no discriminación, libertad de circulación, presunción de inocencia y derecho de defensa, libertad de expresión e información, libertad de reunión y asociación, igualdad ante la ley, igualdad de armas y el derecho a una tutela judicial efectiva y a un juicio justo, de conformidad con la Carta de los Derechos Fundamentales de la Unión Europea (LA LEY 12415/2007) y con el Convenio Europeo de Derechos Humanos (LA LEY 16/1950).
Por eso, es el legislador quien debe promulgar un marco jurídico específico, claro y preciso que regule las condiciones, las modalidades y las consecuencias del uso de herramientas de IA en el ámbito de las actuaciones policiales y judiciales, así como los derechos de las personas afectadas, y del mismo modo debe articular procedimientos eficaces y fácilmente accesibles de reclamación y recurso, incluidos los recursos judiciales.
Estoy profundamente convencido que la seductora atracción por la Justicia digital no debe nunca hacernos olvidar que la función constitucional de los jueces no puede dejar jamás de ser una tarea genuinamente humana, ni apartarse de los principios constitucionales que legitiman la función jurisdiccional.»
José Díaz Cappa (Fiscal)
De momento se trata de una situación a la expectativa, con logros ya consolidados en gran parte como el Expediente Judicial Electrónico (EJE), y basada aquella principalmente en la progresividad técnica que tiene como banco de pruebas los propios avances tecnológicos de la sociedad en general, esto es, y parafraseando al propio Código Civil, adaptando el progreso ético-tecnológico, al igual que las normas, a la «la realidad social del tiempo en que han de ser aplicadas, atendiendo fundamentalmente al espíritu y finalidad de aquellas». Esto, en puridad, no será en definitiva sino la valoración ético-formal de la incidencia, de la necesidad de implantación y de la coordinación necesaria entre dos de los baluartes esenciales de un Estado Social y de Derecho en relación con uno de sus tres poderes: el Judicial.
Las verdaderas consecuencias se verán cuando los nuevos avances en Inteligencia Artificial vayan permitiendo que las decisiones virtuales puedan ser a la vez colegidas o amparadas con la emisión irrefutable de los razonamientos o argumentos lógicos por las que se tomaron. Aquí ya sí que quizás haya que empezar a tomar posiciones ante la «máquina». Filmografía y literatura de momento sí hay para empezar a debatir sobre ello.
Fernando Llano Alonso (Catedrático de Filosofía del Derecho de la Universidad de Sevilla.)
«Tratar de resolver la cuestión sobre si las máquinas podrán sustituir el día de mañana a los jueces humanos me parece una especulación pretenciosa de escaso interés, por no decir una discusión casi bizantina sobre las posibilidades técnicas y la aceptabilidad moral de la justicia predictiva y la digitalización del derecho, entre otras cosas porque la suerte de la aplicación de los principios de la Ética de la IA al derecho en el futuro dependerá, en última instancia, del modo de adaptación de la cultura jurídica humanista a la metamorfosis tecnológica que está experimentando el mundo profesional del derecho y de cuáles sean las respuestas que demanden las generaciones venideras que sucederán a la nuestra.
En cualquier caso, por no eludir la cuestión de fondo, diré que, a mi parecer, hay dos paradigmas jurídicos prevalentes que en la actualidad se encuentran en liza para guiar a los juristas en este período de tránsito desde los dos grandes sistemas de derecho tradicional (tanto el continental basado en el Derecho romano como el anglosajón del Common Law) a un nuevo modelo de derecho en el que el factor humano cohabitará con la IA legal y la justicia digital: el primero es el paradigma del humanismo tecnológico, que pretende conciliar el legado de la cultura jurídica humanista con el avance de las ciencias y las nuevas tecnologías aplicadas al derecho; el segundo es el tecnoparadigma o el paradigma posthumanista, que considera que, con la llegada de la singularidad tecnológica a las profesiones, los hombres serán reemplazados por las máquinas (y en esto los juristas no serán una excepción), por lo que sería preciso librarnos del lastre de las viejas categorías e instituciones del derecho para adaptarnos lo mejor posible, y cuanto antes, al espacio jurídico digital que ya se está formando y que en pocos años será predominante.
A mi juicio, el modelo deseable es el del paradigma humanista-tecnológico, esto es, el que combina la ciencia jurídica con el futuro tecnológico; por el contrario, el paradigma posthumanista conlleva la transfiguración del derecho en una dimensión digital e inmaterial, en un universo cifrado y automatizado donde el razonamiento jurídico es sustituido por el cálculo algorítmico, y la experiencia jurídica es reducida a una mera correlación de datos.»
Javier Martínez Talamantes (Registrador de la Propiedad)
«¿Qué podemos esperar del futuro? Todo y nada ¿no? Por eso es el futuro.
El debate histórico entre iusnaturalistas y positivistas creo que vuelve a resurgir ante esta cuestión. Si consideramos la justicia como una mera aplicación literal y automática de los artículos existentes, podemos deshumanizar todo el proceso judicial y dejarlo en manos de máquinas robotizadas.
Si, por el contrario, como ocurre en mi pensamiento, sostenemos que la intervención humana en todo el procedimiento judicial es ineludible, esto es, que se requiere la participación de individuos para que doten de sentido y contenido al término "justicia", en fin, para que la justicia humana sea controlada por los humanos, entonces jamás un robot, por sofisticado que sea, debería juzgar ni resolver en última instancia. La tecnología auxilia, ayuda, mejora e, incluso, agiliza la Justicia (un Expediente Judicial Electrónico bien estructurado, que permita organizar temáticamente los diferentes aspectos de los litigios o un buscador eficiente que permita a los Jueces, LAJS…ubicarse rápidamente en la página o en el sector del expediente que busquen, es, claro está, una mejora), pero siempre guiada la batuta por el capital humano que ha intervenido a lo largo de los siglos y que desempeña la función esencial para que la justicia pueda ser entendida como tal: la ponderación humana de todos los elementos que intervienen en el juego, evitando una aplicación automática de la norma sin ningún tipo de valoración.
El concepto artístico de "horror vacui" nos puede ayudar en esta cuestión. Me explico: el Derecho y la Justicia, desde Shamash hasta el más depurado de los códigos jurídicos, han intentado resolver las cuitas humanas a través de la sensibilización de las cuestiones, de la humanización de las mismas. El desarrollo tecnológico no debería acabar con ello. La Ética Moderna, inspirada en los tan manidos derechos humanos, debería seguir siendo la fuente inspiradora de cualquier justicia que pretenda otorgarse.
En el ámbito al que pertenezco (Registro de la propiedad, Mercantil y de Bienes Muebles) se plantea esta cuestión y sostenemos que el capital humano, es decir, la intervención del individuo que, a la vista de la legislación y de las circunstancias concurrentes en el caso concreto es capaz de ponderarlas y calificar según su prudente criterio, es un elemento nuclear del proceso que optimiza, perfecciona y humaniza éste.
¿Jueces Robot? ¿Serán perfectos? ¿Qué es la perfección en Justicia? Más allá, ¿acaso existe la perfección en la Justicia? Y, caso de que no exista, ¿en qué mejoraría sustituir la intervención humana por la intervención automatizada de sistemas de Software robotizados? El "horror vacui" puede llevar a creer que la tecnología traerá la perfección y rellenará los huecos que la intervención humana no haya rellenado. Pero, quizá, esos huecos no se pueden rellenar porque no es posible la perfección completa en lo que supone la "Justicia" en general. Quizá hay que superar la idea de "horror vacui" y apreciar la belleza del vacío a completar.
Quizá la vida es más bella y justa con la imperfección humana que con la imperfección robotizada. He ahí la cuestión.»
Paula Bravo Martín (Specific Knowledge Analyst en NTT DATA)
«La sociedad evoluciona, y con ella la Justicia y todos aquellos que interactúan con la misma, el debate sobre qué se espera de esta era digital está abierto y el debate y conciencia de lo que ello supone debe comenzar en las propias universidades. Éstas deben modelar los planes de estudio para formar al futuro operador jurídico no sólo en la teoría y práctica del Derecho sino también en competencias digitales logrando crear una cultura digital del Derecho desde el comienzo de su formación. Este mismo ámbito de actuación es aplicable a las Escuelas de Práctica Jurídica, no se debe formar sólo en Derecho sino también en las tecnologías aplicadas consiguiendo así que, los profesionales de la Justicia conozcan los programas informáticos utilizados dentro de un órgano judicial, la importancia de un registro de calidad de los datos siendo conscientes del ciclo de vida del mismo y lo que con ello se puede conseguir, la necesidad de un lenguaje claro y sencillo que permita el entendimiento por parte del ciudadano, etc.
Por otra parte, y fuera del ámbito formativo, las empresas privadas de tecnologías que colaboran con el Ministerio de Justicia deben estar en constante evolución y adaptación asegurando la evolución de las herramientas puestas al servicio de la Justicia y formando a sus empleados para poder hablar en un mismo lenguaje.
En este camino de evolución, no debe perderse de vista quien está detrás del mismo: el ciudadano y la garantía de sus derechos, aprendiendo de errores del pasado para permitir dar a conocer la Justicia a aquel y permitiendo cambiar la concepción que la sociedad tiene sobre la Justicia. Se debe dar a conocer el esfuerzo que el Servicio Público de Justicia está realizando, adaptándose a las últimas tecnologías.»