Carlos B Fernández. Los sistemas de reconocimiento facial siguen siendo objeto de seria controversia jurídica en el seno de las instituciones europeas. La inteligencia artificial ha impulsado el uso de tecnologías biométricas, incluidas las aplicaciones de reconocimiento facial que se utilizan cada vez más con fines de verificación, identificación y categorización.
Esa controversia se ha visto animada por la propuesta de Reglamento sobre inteligencia artificial (IA), un texto que dedica amplia atención a estas tecnologías pero cuya regulación no alcanza el consenso entre los actores implicados. El debate se mueve entre los partidarios de dejar el mayor espacio posible a la autoregulación de esta figura y los defensores de un endurecimiento de su regulación.
Un reciente informe de un grupo de investigación del Parlamento Europeo, titulado Regulating facial recognition in the EU, ha contribuido a clarificar el alcance del problema y las posibles alternativas para su resolución, en un contexto, todavía de mucha incertidumbre.
Esta publicación explica el estado de la cuestión y subraya además las preocupaciones que suscita el uso de las tecnologías de reconocimiento facial y sus posibles repercusiones en los derechos fundamentales de las personas. En este contexto, el documento explora el actual marco jurídico de la UE aplicable al reconocimiento facial y examina en profundidad las recientes propuestas para regular las tecnologías de reconocimiento facial a nivel de la UE.
Este artículo: ofrece una visión general de las tecnologías, los aspectos económicos y los diferentes usos de las tecnologías de reconocimiento facial de reconocimiento facial; destaca las preocupaciones que surgen de las características específicas de esta tecnología y de sus posibles repercusiones en los derechos fundamentales de las personas; hace un balance del marco jurídico, especialmente las normas de protección de datos y de no discriminación aplicables actualmente al reconocimiento facial en la Unión Europea (UE); y examina la reciente propuesta de una ley de de inteligencia artificial de la UE, que regula las tecnologías de reconocimiento facial. Por último, el documento examina brevemente brevemente los enfoques adoptados para la regulación del reconocimiento facial fuera de la UE y a nivel internacional.
Evolución y riesgos de las tecnologías de reconocimiento facial
El informe comienza recordando que, a lo largo de los últimos años, se han producido importantes avances tecnológicos en el ámbito del reconocimiento facial. La inteligencia artificial ha impulsado el uso de las tecnologías biométricas, incluidas las aplicaciones de reconocimiento facial que en la actualidad se utilizan cada vez más para garantizar la verificación e identificación de los consumidores, para aplicaciones comerciales y de pago y para la vigilancia por parte de agentes privados o públicos. También se espera que la inversión en tecnologías de reconocimiento facial crezca en los próximos años, ya que su uso aumentará y se diversificará y el número de despliegues y experimentos de sistemas está aumentando rápidamente.
En este contexto, el desarrollo de los sistemas de reconocimiento facial suscita un serie de preocupaciones derivadas de una combinación de sus características técnicas y de la falta de precisión de la tecnología utilizada, que puede dar lugar a graves amenazas para las libertades civiles. Al respecto, se subraya que aunque el uso de los sistemas de reconocimiento facial presenta ventajas reales en términos de seguridad pública y eficacia para la verificación de la identidad, el riesgo de error algorítmico es elevado. La tecnología de reconocimiento facial puede tener tasas muy elevadas de falsos positivos y de falsos negativos y puede dar lugar a prejuicios y a diversos tipos de discriminación contra determinadas poblaciones. Un caso especialmente delicado es el creciente uso de sistemas de identificación biométrica a distancia en espacios de acceso público.
Por ello, es clara la consideración de que el tratamiento de datos biométricos mediante tecnologías de reconocimiento facial afecta profundamente al derecho de las personas a la protección de datos y a la intimidad, y su despliegue y regulación están sujetos a las estrictas normas de la Carta de Derechos Fundamentales de la UE, el RGPD y la Directiva de protección de datos en el ámbito penal.
Aunque los requisitos específicos en el ámbito de la protección de datos todavía están tomando forma, la naturaleza intrusiva de tales tecnologías y la oposición de una amplia gama de actores, indican que los desarrolladores y operadores no deben confundir la incertidumbre con la indulgencia.
En última instancia, el acervo de datos de la UE exige una configuración que preserve la privacidad y la protección de datos de todo el sistema de reconocimiento facial, incluidos componentes como las bases de datos biométricos, las políticas de conservación de datos, los procedimientos de toma de decisiones y los algoritmos. Además, los investigadores cuestionan la eficacia del marco de no discriminación de la UE para abordar la discriminación algorítmica asociada a los sistemas de reconocimiento facial.
A este respecto se destaca que los operadores de estos sistemas impulsados por la IA deben adoptar medidas organizativas y técnicas adecuadas para reducir la discriminación algorítmica. A la inversa, los reguladores deben considerar el fortalecimiento y la ampliación del marco de no discriminación de la UE, para garantizar que los operadores no eludan el fundamento subyacente. Estas cuestiones de derechos fundamentales ocupan un lugar destacado como argumentos para una intervención reguladora de la UE que frene los riesgos asociados a las aplicaciones de IA. Según el estudio de la Comisión Europea "Supporting the Impact Assessment of Regulator Requirements for Artificial Intelligence in Europe", esta biometría de "segunda ola" conlleva riesgos nuevos y sin precedentes para los derechos fundamentales, sobre todo el derecho a la intimidad y a la no discriminación.
El proyecto de Reglamento sobre IA
El proyecto de Reglamento sobre la IA presentado por la Comisión en abril de 2021 pretende limitar el uso de los sistemas de identificación biométrica, incluido el reconocimiento facial, en la UE, tomando como base la premisa de que estas tecnologías plantean las amenazas más importantes para los derechos fundamentales cuando se utilizan en "tiempo real" y con fines de "identificación". Además de la legislación vigente (por ejemplo, sobre protección de datos y no discriminación), el proyecto de ley sobre IA propone introducir nuevas normas que regulen el uso de las tecnologías de reconocimiento facial en la UE y diferenciarlas según sus características de uso de "alto riesgo" o "bajo riesgo".
Bajo este prisma, un gran número de tecnologías de reconocimiento facial se considerarían sistemas de "alto riesgo" que estarían prohibidos o tendrían que cumplir requisitos estrictos para su utilización. En concreto, se prohibiría el uso de sistemas de reconocimiento facial en tiempo real en espacios de acceso público con fines policiales, a menos que los Estados miembros decidan autorizarlos por razones importantes de seguridad pública y que se concedan las autorizaciones judiciales o administrativas pertinentes. Sin embargo, se permitiría el uso de una amplia gama de tecnologías de reconocimiento facial para fines distintos de los policiales (por ejemplo, control de fronteras, mercados, transporte público e incluso escuelas), siempre que se realice una evaluación de conformidad y se cumplan algunos requisitos de seguridad antes de entrar en el mercado de la UE.
Además, los sistemas de reconocimiento facial utilizados con fines de categorización se considerarían sistemas de "bajo riesgo" y sólo estarían sujetos a requisitos limitados de transparencia e información.
Mientras la tramitación de esta propuesta sigue su curso en las instancias europeas, determinadas opiniones críticas cuestionan algunos aspectos de la propuesta, como la distinción entre sistemas de "alto riesgo" y "bajo riesgo", el margen de maniobra de los Estados miembros para aplicar la excepción a la prohibición de los sistemas de reconocimiento facial a distancia con fines policiales y la falta de una supervisión pública adecuada de los procesos de normalización y autoevaluación propuestos. Algunas voces apoyan firmemente unas normas más estrictas, incluida la prohibición total de estas tecnologías.
Dado que el uso de las tecnologías de reconocimiento facial está aumentando en todo el mundo y que la preocupación por la vigilancia estatal es cada vez mayor, también se preocupa esta preocupación fuera de Europa. Una preocupación que, por otra parte, se ve amplificada por el hecho de que, hasta el momento, existen pocas normas jurídicamente vinculantes aplicables a las tecnologías de reconocimiento facial, incluso en jurisdicciones importantes como Estados Unidos y China. En consecuencia, el informe destaca que los responsables políticos y legislativos de todo el mundo tienen la oportunidad de debatir -en un contexto multilateral y posiblemente bilateral- cómo establecer controles más o menos estrictos sobre el uso de los sistemas de reconocimiento facial. Es crucial que la UE, que ha declarado su ambición de liderar las normas mundiales de IA, participe en estos debates sobre la regulación del reconocimiento facial.
Perspectivas regulatorias
En este sentido, tanto el sector académico, como las partes interesadas y los responsables políticos comparten en gran medida la preocupación por el respeto de los derechos fundamentales -en especial la protección de datos y la no discriminación- que se derivan del creciente uso de tecnologías de reconocimiento facial. Sin embargo, los beneficios que aporta esta tecnología, que puede mejorar la seguridad mediante una autenticación más precisa y una mayor seguridad son innegables.
En este contexto, los legisladores se enfrentan al reto de fomentar los usos legítimos del reconocimiento facial y, al mismo tiempo, evitar su uso indebido y proteger los derechos fundamentales de las personas. Dada la preocupación de la sociedad en relación con el uso de estas tecnologías impulsadas por la IA y el riesgo de fragmentación del mercado interior si no se toman medidas, la Comisión propone definir las circunstancias específicas que podrían justificar dicho uso y estipular las salvaguardias necesarias en un reglamento sobre la IA.
Para ello, el planteamiento de la UE sobre la biometría, y en particular sobre el reconocimiento facial, se basaría en una distinción entre aplicaciones biométricas de "alto riesgo" y "bajo riesgo" que llevaría a la aplicación de un régimen jurídico más o menos estricto. El enfoque de la IA de la UE parece complementar las estrictas normas de protección de datos y no discriminación ya aplicables, con un nuevo estrato de normas que regulan la comercialización de las tecnologías de reconocimiento facial.
Aunque las partes interesadas, los investigadores y los reguladores parecen estar de acuerdo en la necesidad de una regulación, algunos críticos cuestionan la distinción propuesta entre sistemas biométricos de bajo y alto riesgo y advierten que la legislación propuesta permitiría un sistema de estandarización y autorregulación sin la debida supervisión pública. Piden que se modifique el proyecto de texto, incluso en lo que respecta al margen de maniobra que se concede a los Estados miembros para aplicar las nuevas normas. Algunos apoyan normas más estrictas, incluida la prohibición total de estas tecnologías.