Carlos B Fernández. La Inteligencia artificial generativa, es decir, esa rama de la inteligencia artificial diseñada para la generación de contenido original, principalmente texto e imágenes, pero también música o sonido a partir de datos existente, ha saltado bruscamente a la fama con motivo de la presentación de sistemas como DALL-E o, más recientemente, ChatGPT.
La capacidad de esta tecnología para generar contenidos difícilmente distinguibles de los creados por los seres humanos ha levantado las alarmas de creadores, investigadores y público en general, que puede enfrentarse a la gran dificultad de saber cuándo se está ante un contenido obra de humanos o cuándo ante uno generado por una máquina.
Esto ha llevado, de entrada, a la creación de herramientas destinadas a tratar de identificar cuándo un contenido ha sido creado de forma automática. Pero también, al acuerdo entre empresas para diseñar y producir una IA generativa responsable, que evite o minimice la mayor parte de los riesgos que se pueden derivar del uso de estas tecnologías.
Así, el comienzos de este mes de marzo, un grupo de diez empresas, entre las que se encuentran OpenAI, TikTok, Adobe, la BBC, han firmado un conjunto de directrices sobre cómo construir, crear y compartir contenidos generados por IA de forma responsable.
El documento “Responsible Practices for Synthetic Media” (Prácticas responsables para contenidos sintéticos), contienen una serie de recomendaciones dirigidas tanto a los creadores de esta tecnología (por ejemplo, OpenAI), como a los creadores y distribuidores de contenidos sintéticos creados digitalmente (como BBC y TikTok), para que sean más transparentes sobre qué puede o no hacer esta tecnología, y para que revelen al usuario que puede estar interactuando con este tipo de contenidos.
Estas recomendaciones voluntarias fueron elaboradas por Partnership on AI (PAI, por sus siglas en inglés), una organización sin ánimo de lucro dedicada a la investigación de la IA en la que se integran grandes empresas tecnológicas y organizaciones académicas, sociales y de los medios de comunicación.
Las diez primeras empresas que se han comprometido a seguir las recomendaciones son: Adobe, BBC, CBC/Radio-Canada, Bumble, OpenAI, TikTok, Witness y las empresas de medios sintéticos Synthesia, D-ID y Respeecher.
Necesidad de estas directrices
Según los firmantes, en los últimos años, hemos visto cómo los contenidos generados por IA han pasado del ámbito de la investigación experimental en laboratorios de informática a convertirse en uno de los motores de la creación de contenidos digitales.
Esos contenidos sintéticos ofrecen importantes oportunidades creativas y responsables a toda la sociedad. Sin embargo, también pueden causar daños. Y a medida que la tecnología se vuelve cada vez más accesible y sofisticada, pueden aumentar los posibles efectos perjudiciales, así como los responsables y beneficiosos. Por ello, entienden que, a medida que este campo madura, los creadores, distribuidores, editores y desarrolladores de herramientas de medios sintéticos deben acordar y seguir las mejores prácticas.
Con el Marco, los expertos en IA y los líderes del sector en la intersección de la información, los medios de comunicación y la tecnología se unen para actuar por el bien público. Esta diversa coalición ha trabajado conjuntamente durante más de un año para crear un conjunto compartido de valores, tácticas y prácticas que ayuden a los creadores y distribuidores a utilizar esta potente tecnología de forma responsable a medida que evoluciona.
Los daños que pueden generar los contenidos sintéticos
Los firmantes identifican los siguientes:
• Hacerse pasar por una persona para obtener información o privilegios no autorizados
• Realizar llamadas telefónicas no solicitadas, comunicaciones masivas, publicaciones o mensajes que engañen o acosen.
• Cometer fraude para obtener beneficios económicos
• Desinformar sobre una persona, grupo u organización.
• Explotación o manipulación de menores
• Intimidación y acoso
• Espionaje
• Manipulación de procesos democráticos y políticos, lo que incluye engañar a un votante para que vote a favor o en contra de un candidato, dañar la reputación de un candidato mediante declaraciones o actos falsos, influir en el resultado de unas elecciones mediante el engaño o suprimir votantes.
• Manipulación del mercado y sabotaje empresarial
• Creación o incitación a la incitación al odio, la discriminación, la difamación, el terrorismo o los actos de violencia
• Difamación y sabotaje de la reputación
• Contenido íntimo o sexual no consentido
• Extorsión y chantaje
• Creación de nuevas identidades y cuentas a escala para representar a personas únicas con el fin de "fabricar opinión pública"
Prácticas responsables para los contenidos sintéticos
Por medio de este acuerdo se pretenden diseñar un conjunto de recomendaciones para apoyar el desarrollo y despliegue responsable de los medios sintéticos.
Los destinatarios son quienes crean tecnología y herramientas de medios sintéticos o crean, comparten y publican contenidos de medios sintéticos.
En opinión de los firmantes, esto permitirá avanzar en la comprensión de los beneficios de los medios sintéticos de forma responsable, creando consenso y comunidad en torno a las mejores prácticas para las principales partes interesadas de la industria, los medios de comunicación y el periodismo, el mundo académico y la sociedad civil.
Además, permitirá ofrecer orientación a los agentes emergentes y a los más importantes en el campo de los medios sintéticos; alinear las normas y prácticas para reducir la redundancia y contribuir al avance de las prácticas responsables en toda la industria y la sociedad, evitando una carrera a la baja; garantizar la existencia de un documento y una comunidad asociada que sean útiles y puedan adaptarse a la evolución de un sector incipiente y en rápida transformación y servir de complemento a otros esfuerzos normativos y políticos en torno a los medios sintéticos, incluso a escala internacional.
Sin embargo, este acuerdo no se orienta a auditar o certificar organizaciones
Contenidos a los que se orienta el acuerdo
Este marco se ha creado centrándose en contenidos visuales, auditivos o multimodales generados o modificados (normalmente mediante inteligencia artificial). Dichos contenidos suelen ser muy realistas, no serían identificables como sintéticos por una persona normal, y pueden simular artefactos, personas o acontecimientos.
No obstante, el marco puede proporcionar orientaciones útiles para la creación y distribución de texto sintético.
Además, este Marco se centra en formas altamente realistas de medios sintéticos, pero reconoce que el umbral de lo que se considera altamente realista puede variar en función de la alfabetización mediática de la audiencia y de los contextos globales. También reconocemos que los medios sintéticos que no son altamente realistas pueden causar daños, como en el contexto del abuso de imágenes íntimas. Además, este Marco sólo cubre los medios generativos, no la categoría más amplia de IA generativa en su conjunto. Reconocemos que a veces estos términos se consideran intercambiables.
Basado en los conceptos básicos de consentimiento, divulgación y transparencia, el Marco esboza técnicas clave para desarrollar, crear y compartir medios sintéticos de forma responsable.
Junto con recomendaciones específicas para cada parte interesada, el Marco pide a las organizaciones que
- Colaboren para ayudar a contrarrestar el uso nocivo de los medios sintéticos.
- Identificar mejor los usos responsables y perjudiciales de los medios sintéticos
- Aplicar estrategias específicas de mitigación cuando los medios sintéticos se utilicen para causar daños.
Prácticas propuestas
1. Para los constructores de tecnología e infraestructura
Los creadores y proveedores de tecnología e infraestructura para medios sintéticos pueden ser: Fabricantes de herramientas B2B y B2C; desarrolladores de código abierto; investigadores académicos; nuevas empresas de medios sintéticos, incluidas las que proporcionan la infraestructura para que los aficionados creen medios sintéticos; plataformas de medios sociales; y tiendas de aplicaciones.
A estos se les propone:
- Ser transparentes con los usuarios sobre las capacidades, funcionalidades y limitaciones de las herramientas y tecnologías, así como sobre los riesgos potenciales de los medios sintéticos.
- Tomar medidas para proporcionar mecanismos de divulgación a quienes crean y distribuyen medios sintéticos.
La divulgación puede ser directa o indirecta, según el caso de uso y el contexto:
La divulgación directa está orientada al espectador o al oyente e incluye, entre otras cosas, etiquetas de contenido, notas contextuales, marcas de agua y cláusulas de exención de responsabilidad.
La divulgación indirecta está incrustada e incluye, entre otras cosas, la aplicación de procedencia criptográfica a los resultados sintéticos (como la norma C2PA), la aplicación de elementos trazables a los datos de formación y a los resultados, los metadatos de archivos de medios sintéticos, la composición de píxeles de medios sintéticos y las declaraciones de divulgación de un solo fotograma en los vídeos.
- Al desarrollar códigos y conjuntos de datos, modelos de entrenamiento y aplicar software para la producción de medios sintéticos, hacer todo lo posible por aplicar elementos de divulgación indirecta (esteganográficos, de procedencia de los medios o de otro tipo) en los respectivos activos y etapas de la producción de medios sintéticos.
El objetivo es divulgar de forma que se mitiguen las especulaciones sobre el contenido, se intente evitar la manipulación o la falsificación, se aplique con precisión y, cuando sea necesario, se comunique la incertidumbre sin aumentar las especulaciones. (Nota: la capacidad de añadir una divulgación duradera a los medios sintéticos es un reto abierto en el que se está investigando).
- Apoyar investigaciones adicionales para dar forma a futuras iniciativas de intercambio de datos y determinar qué tipos de datos sería más apropiado y beneficioso recopilar y comunicar, equilibrando al mismo tiempo consideraciones como la transparencia y la preservación de la privacidad.
- Tomar medidas para investigar, desarrollar y desplegar tecnologías que a) Sean lo más detectables posible desde el punto de vista forense para la manipulación, sin ahogar la innovación en el fotorrealismo y, b) conserven la divulgación duradera de la síntesis, como marcas de agua o procedencia vinculada criptográficamente que sean detectables, preserven la privacidad y se pongan fácilmente a disposición de la comunidad en general y se proporcionen como código abierto.
- Proporcionar una política publicada y accesible en la que se describa el uso ético de sus tecnologías y las restricciones de uso que los usuarios deberán cumplir y que los proveedores tratarán de hacer cumplir.
2. Para los creadores de contenidos sintéticos
Los creadores de contenidos sintéticos pueden ser desde productores a gran escala (como los productores de contenidos B2B) hasta productores a menor escala (como aficionados, artistas, personas influyentes y miembros de la sociedad civil, incluidos activistas y satíricos). Los que encargan y dirigen creativamente los medios sintéticos también pueden entrar en esta categoría. Dada la naturaleza cada vez más democratizada de las herramientas de creación de contenidos, cualquiera puede ser creador y tener la oportunidad de que sus contenidos lleguen a un público amplio. En consecuencia, estos ejemplos de partes interesadas son ilustrativos pero no exhaustivos.
A estos se les propone:
- Ser transparente con los consumidores de contenidos sobre: a) Cómo recibió el consentimiento informado del sujeto o sujetos de un contenido manipulado, adecuado al producto y al contexto, excepto cuando se utilice con fines artísticos, satíricos o expresivos razonables; b) Cómo reflexiona sobre el uso ético de la tecnología y las restricciones de uso (por ejemplo, mediante una política publicada y accesible, en su sitio web o en publicaciones sobre su trabajo) y consulta estas directrices antes de crear medios sintéticos, y c) Las capacidades, limitaciones y riesgos potenciales de los contenidos sintéticos.
- Divulgue cuando los medios que haya creado o introducido incluyan elementos sintéticos, especialmente cuando el desconocimiento de la síntesis cambie la forma en que se percibe el contenido. Aprovechar todas las herramientas de divulgación proporcionadas por quienes crean la tecnología y la infraestructura para los medios sintéticos.
La divulgación puede ser directa o indirecta, según el caso de uso y el contexto: La divulgación directa está orientada al espectador o al oyente e incluye, entre otras cosas, etiquetas de contenido, notas contextuales, marcas de agua y cláusulas de exención de responsabilidad; La divulgación indirecta está integrada e incluye, entre otras cosas, la aplicación de procedencia criptográfica a los resultados sintéticos (como el estándar abierto C2PA), la aplicación de elementos trazables a los datos de formación y a los resultados, los metadatos de archivos de medios sintéticos, la composición de píxeles de medios sintéticos y las declaraciones de divulgación de un solo fotograma en los vídeos.
El objetivo es divulgar de forma que se mitiguen las especulaciones sobre el contenido, se busque la resistencia a la manipulación o la falsificación, se aplique con precisión y también, cuando sea necesario, se comunique la incertidumbre sin fomentar la especulación.
3. Prácticas para distribuidores y editores
Entre los distribuidores de medios de comunicación sintéticos se incluyen tanto instituciones con una toma de decisiones editorial activa en torno a los contenidos, que albergan principalmente contenidos de terceros y pueden distribuir medios de comunicación sintéticos creados editorialmente y/o informar sobre medios de comunicación sintéticos creados por otros (es decir, instituciones de medios de comunicación, incluidos los organismos de radiodifusión), como plataformas en línea que tienen una exhibición más pasiva de medios de comunicación sintéticos y albergan contenidos generados por usuarios o terceros (es decir, plataformas de medios sociales).
Tanto para los canales de distribución activos como para los pasivos, se propone que
- Divulgue cuando detecte con seguridad contenidos sintéticos generados por terceros/usuarios.
La divulgación puede ser directa y/o indirecta, dependiendo del caso de uso y del contexto:
La divulgación directa está orientada al espectador o al oyente e incluye, entre otras cosas, etiquetas de contenido, notas contextuales, marcas de agua y descargos de responsabilidad.
La divulgación indirecta está integrada e incluye, entre otras cosas, la aplicación de procedencia criptográfica (como el estándar abierto C2PA) a los resultados sintéticos, la aplicación de elementos trazables a los datos de entrenamiento y a los resultados, los metadatos de archivos multimedia sintéticos, la composición de píxeles multimedia sintéticos y las declaraciones de divulgación de un solo fotograma en los vídeos.
Tratar de divulgar de forma que se reduzcan las especulaciones sobre el contenido, se resista la manipulación o la falsificación, se aplique con precisión y, cuando sea necesario, se comunique la incertidumbre sin fomentar la especulación.
- Proporcione una política publicada y accesible que describa el enfoque de la organización respecto a los medios de comunicación sintéticos, a la que se adherirá y tratará de hacer cumplir.
Para canales de distribución activos
Canales (como instituciones de medios de comunicación) que alojan principalmente contenidos propios y pueden distribuir medios sintéticos creados editorialmente y/o informar sobre medios sintéticos creados por otros.
- Realice ajustes inmediatos cuando se dé cuenta de que ha distribuido y/o representado contenidos sintéticos perjudiciales sin saberlo.
- Evite distribuir contenidos de medios sintéticos no atribuidos o informar sobre medios sintéticos perjudiciales creados por otros sin un etiquetado y un contexto claros que garanticen que ningún espectador o lector razonable pueda pensar que no son sintéticos.
- Trabajar en favor de una infraestructura organizativa de procedencia de los contenidos, tanto para los medios no sintéticos como para los sintéticos, respetando la privacidad (por ejemplo, a través del estándar abierto C2PA).
- Asegúrese de que el creador y el sujeto o sujetos representados en el contenido sintético que se va a compartir y distribuir han dado su consentimiento de forma transparente e informada, incluso si ya ha recibido el consentimiento para la creación del contenido.
Para canales de distribución pasiva
Canales (como plataformas) que alojan mayoritariamente contenidos de terceros.
- Identificar los medios sintéticos nocivos que se distribuyen en las plataformas aplicando métodos técnicos razonables, informes de los usuarios y medidas del personal para hacerlo.
- Hacer ajustes rápidos a través de etiquetas, downranking, eliminación u otras intervenciones como las descritas aquí, cuando se sepa que se distribuyen medios sintéticos dañinos en la plataforma.
- Informar y educar claramente a los usuarios de la plataforma sobre los medios sintéticos y qué tipo de contenidos sintéticos está permitido crear y/o compartir en la plataforma.