La conmoción que a nivel global está provocando la Inteligencia Artificial (IA) generativa, cuyo modelo más relevante es ChatGPT, continúa su imparable escalada.
Y las reacciones a su evolución, lo hacen igualmente. Desde su inclusión en las propuestas regulatorias de la IA que está elaborando la Unión Europea o su evaluación por el Comité Europeo de protección de Datos, a la solicitud de una moratoria en su desarrollo, la prohibición de su uso (ya levantada), por la autoridad italiana de protección de datos, o las advertencias de pioneros como Geoffrey Hinton, que recientemente han prevenido contra las graves consecuencias que auguran a un desarrollo descontrolado de estas tecnologías.
En el marco de las iniciativas regulatorias sobre esta tecnología, ya iniciada por los Estados Unidos, destaca la reciente apertura por la República Popular China de una consulta pública sobre una próxima regulación de la IA generativa.
A principios de este mes, la Administración del Ciberespacio de China (CAC) publicó un proyecto de medidas para regular los servicios de inteligencia artificial disponibles para los usuarios en China, sobre el que se podrán recibir comentarios públicos hasta el 10 de mayo. La previsión es que el texto “Medidas Administrativas para los Servicios de Inteligencia Artificial Generativa” se apruebe en algún momento de este año.
Objetivo de la norma
Según una traducción automática que hemos obtenidos del texto original de la propuesta, la inteligencia artificial generativa a la que se refieren estas medidas se refiere a tecnologías que generan texto, imágenes, sonidos, videos, códigos y otros contenidos basados en algoritmos, modelos y reglas.
Su objetivo es “promover el desarrollo saludable y la aplicación estandarizada de la inteligencia artificial generativa”. Todo ello, de acuerdo con las leyes y reglamentos administrativos como la Ley de Seguridad de Redes de la República Popular China, la Ley de Seguridad de Datos de la República Popular China, la Ley de Protección de Información Personal de la República Popular China y otras leyes y reglamentos administrativos.
Ámbito de aplicación
A estos efectos, la norma se aplicará a “la investigación, el desarrollo y la utilización de productos de inteligencia artificial generativa para prestar servicios al público dentro del territorio de la República Popular China.”
Es decir, a semejanza de otras propuestas regulatorias europeas, como el Reglamento General de Protección de Datos (LA LEY 6637/2016), el ámbito de aplicación de esta propuesta alcanza a cualquier proveedor de IA generativa disponible para "el público dentro del territorio de China". Es decir, obliga a los proveedores de estos sistemas con sede en los EE.UU. u otros países.
Requisitos de utilización de la IA generativa
Por otra parte, el borrador propuesta por la CAC enumera requisitos muy concretos y amplios.
Así, el texto propuesto precisa, en primer lugar, que “La provisión de productos o servicios de inteligencia artificial generativa deberá cumplir con los requisitos de las leyes y reglamentos, respetar la moral social, el orden público y las buenas costumbres”.
Además, deberá cumplir con los siguientes requisitos:
1. El contenido generado por la inteligencia artificial generativa debe reflejar los valores fundamentales del socialismo y no debe contener la subversión del poder estatal, el derrocamiento del sistema socialista, la incitación a dividir el país, socavar la unidad nacional, promover el terrorismo, el extremismo, y promover el odio étnico y la discriminación étnica, la violencia, la información obscena y pornográfica, la información falsa y el contenido que pueda perturbar el orden económico y social.
2. En el proceso de diseño de los algoritmos, selección de los datos de entrenamiento, generación y optimización de modelos y prestación de servicios, se deberán tomar medidas para prevenir la discriminación basada en raza, etnia, creencia, país, región, género, edad, ocupación, etc.
3. Se deberán respetar los derechos de propiedad intelectual y la ética comercial, y no facilitarr la competencia desleal.
4. El contenido generado por la inteligencia artificial generativa debe ser verdadero y exacto, debiéndose tomar medidas para evitar la generación de información falsa.
5. Finalmente, estos sistemas deberán respetar los intereses legítimos de los demás, prevenir daños a la salud física y mental, dañar los derechos de imagen, los derechos de reputación y la privacidad personal, e infringir los derechos de propiedad intelectual.
En este sentido, se prohíbe la adquisición, divulgación y uso ilegales de información personal, privacidad y secretos comerciales.
Además, los proveedores de estos sistemas deberán marcar las imágenes, videos y otros contenidos generados de acuerdo con el "Reglamento de gestión de síntesis profunda del servicio de información de Internet".
Solicitud de evaluación previa de seguridad
Según el proyecto de reglamento, antes de ofrecer al público su servicio de IA generativa, los proveedores deberán solicitar a la CAC una evaluación de seguridad que demuestre que han verificado la identidad real de sus usuarios, han tomado medidas para proteger la información personal y disponen de mecanismos internos de revisión de contenidos.
Responsabilidad
Además, la medida hace recaer en los proveedores la responsabilidad de comprobar la "legitimidad" de los datos de preentrenamiento y entrenamiento de los productos de IA generativa. En la práctica, eso significa que los proveedores tendrán que garantizar que los datos subyacentes no infringen los derechos de propiedad intelectual, que se obtiene el consentimiento para el uso de información personal y que los datos son exactos, auténticos y diversos.
Sanciones severas
Para las empresas que incumplan la corta, pero exhaustiva, lista de requisitos, las sanciones pueden ser bastante severas.
En este sentido, los proveedores se enfrentan no sólo a la posible suspensión de sus servicios, sino también a multas y a posibles responsabilidades penales.