El contenido generado por IA ya tiene que revelar su identidad

Desde el 1 de octubre, el contenido generado por IA que circula en China tiene que llevar una etiqueta. Ese día entró en vigor la «Medida de etiquetado de contenido generado o sintetizado por inteligencia artificial», publicada conjuntamente por la Administración del Ciberespacio de China, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Nacional de Radio y Televisión: textos, imágenes, audio, vídeo y escenarios virtuales, toda información generada o sintetizada con tecnología de inteligencia artificial deberá llevar una etiqueta.

Los primeros cambios que percibe el usuario de a pie llegan de varias apps conocidas. WeChat, Canales de Vídeo, Douyin, Bilibili, Weibo y Xiaohongshu fueron actualizando sus acuerdos de usuario antes y después de la entrada en vigor de la norma, exigiendo a quienes publican contenido que identifiquen de forma activa y bien visible el contenido generado por IA. Las consecuencias de no etiquetarlo están escritas sin rodeos: recorte de alcance, retirada del contenido y, en los casos graves, cierre de la cuenta. Alguna plataforma de vídeo corto, cuando el usuario se topa con contenidos del tipo «niño adorable lavando verduras y encendiendo el fuego», añade una línea en letra pequeña en la parte inferior de la imagen advirtiendo de que el contenido está hecho con tecnología de IA y que se trata de material ficticio, por lo que conviene verificarlo con cautela. Alguien compartió una captura de esa frase y dijo que por fin los mayores de su casa se habían creído que aquellos niños eran falsos.

Dos tipos de etiqueta: una para que la vea la gente y otra para que la lea la máquina

La norma divide las etiquetas en dos tipos: explícitas e implícitas. Las explícitas son las que el usuario percibe de forma evidente, como un distintivo en la esquina de la imagen, un aviso antes de la reproducción o una declaración de voz al inicio del audio. Las implícitas van incrustadas en los metadatos del archivo: el ojo humano no las ve, pero las plataformas y los reguladores pueden leerlas con herramientas, y sirven para responder a preguntas como quién generó ese contenido o desde qué servicio salió.

La responsabilidad se reparte por eslabones. Los proveedores de servicios deben garantizar que la etiqueta esté completa en los puntos de generación, difusión y descarga del contenido; las plataformas de distribución de aplicaciones deben verificar que las apps que publican cuenten con la función de añadir etiquetas; y los usuarios individuales, al publicar contenido generado, deben declararlo de forma activa. Esta cadena traslada la revisión de contenido —que antes solo permitía exigir responsabilidades a posteriori— a las fases de diseño del producto y de publicación en las tiendas.

Para las cuentas de marketing que viven de repostear y reescribir material ajeno, la etiqueta implícita es una restricción dura. Antes bastaba con cambiar la portada y ajustar el color de un vídeo de otro para publicarlo como propio; ahora los metadatos pueden conservar la información de origen, y la plataforma puede rastrear hasta el proveedor de servicios inicial para comprobar si cumplió con su obligación de etiquetado.

¿Por qué una norma específica para un solo asunto?

El etiquetado parece un asunto menor, pero resuelve la parte más problemática del contenido con IA: la identificación a escala. Xiao Youdan, investigador del Instituto de Consultoría Estratégica en Ciencia y Tecnología de la Academia de Ciencias de China, señaló en una de sus interpretaciones que el objetivo principal del sistema de etiquetado es lograr una supervisión a gran escala, altamente fiable y de bajo coste. La revisión manual de contenido no da abasto y el juicio basado en modelos suele producir falsos positivos, mientras que una etiqueta es una señal que se puede verificar de forma automática y a bajo coste.

Otro de los escenarios a los que apunta es el fraude. La app del Centro Nacional Antifraude ya lanzó una función de «verificación de contenido con IA»: se sube un texto, una imagen o un vídeo y en unos segundos ofrece un diagnóstico preliminar. La app «Antifraude Nacional IA», desarrollada por el Buró de Seguridad Pública de Shanghái bajo la dirección del Buró de Investigación Criminal del Ministerio de Seguridad Pública, se lanzó al mismo tiempo: se introduce el escenario sospechoso y desglosa los métodos de estafa más habituales. El cambio de rostro y la clonación de voz han aparecido cada vez más en el fraude telefónico y por internet en los últimos años, y etiquetar el contenido con IA añade una barrera más en esa cadena.

La norma de etiquetado no es una acción aislada. El Tribunal Popular Supremo publicó las «Opiniones sobre la tramitación conforme a derecho de casos de disputas relacionadas con la inteligencia artificial», que incorpora al razonamiento judicial cuestiones como el cambio de rostro y la clonación de voz con IA, las infracciones por alucinaciones de la IA y el doxeo en línea; la Oficina de la Comisión Central de Asuntos del Ciberespacio puso en marcha la campaña especial «Qinglang · Erradicar el desorden en las aplicaciones de IA», que enumera siete categorías de objetivos, entre ellas no haber registrado los grandes modelos, el envenenamiento de datos de IA y una implementación deficiente del etiquetado de contenido generado o sintetizado; y el «Marco de gobernanza de la seguridad de la inteligencia artificial 3.0», publicado el 14 de septiembre, extiende el ámbito de gobernanza desde un eslabón técnico concreto hasta todo el proceso de datos, algoritmos, modelos, aplicaciones y cadena de suministro. El 8 de octubre entró en vigor la primera norma sectorial de clasificación de seguridad para servicios de IA generativa, y los estándares relacionados con agentes de IA identificaron 13 grandes categorías y 97 riesgos. Las fechas de estos documentos están muy próximas entre sí y, vistas en conjunto, trazan una ruta de gobernanza que va del contenido a la conducta y de un modelo concreto a toda la cadena.

Otros países también están haciendo lo mismo

Si ampliamos la perspectiva, la legislación sobre sistemas de etiquetado es un consenso global en los últimos años. Estados Unidos, Singapur, la Unión Europea y el Reino Unido impulsan sus propias normas de etiquetado para la IA generativa. Las cláusulas de transparencia de la Ley de Inteligencia Artificial de la UE entran en vigor el 2 de agosto de 2026: exigen divulgar las interacciones con IA, marcar el contenido sintético y señalar los deepfakes; las infracciones se castigan con hasta 35 millones de euros o el 7 % de la facturación anual global, la cifra que sea mayor. OpenAI, para cumplir la normativa, anunció que añadirá marcas de agua invisibles a los textos generados por ChatGPT y Codex en el ámbito de la UE.

La diferencia está en dónde se pone el acento. La UE apuesta por la clasificación de riesgos y las multas elevadas, cargando la presión sobre los proveedores de servicios; el enfoque chino insiste más en la trazabilidad de toda la cadena y la coordinación entre plataformas, repartiendo la obligación de etiquetado entre proveedores, distribuidores y usuarios. Ambas rutas comparten una misma premisa: primero hay que hacer que el contenido lleve información de origen; solo después se puede hablar de exigir responsabilidades y de gobernanza.

¿Cómo se siente esto para los creadores?

Para el creador común, el cambio no está en la técnica sino en la costumbre. Antes, una ilustración hecha con IA podía publicarse como una obra cualquiera; ahora hay que declararlo de forma activa, y si tras declararlo el algoritmo recortará el alcance es la duda que ronda a mucha gente. De momento no hay datos públicos que respondan a eso. Lo que insinúan las plataformas es que el contenido debidamente etiquetado no recibe castigos adicionales y que lo que realmente se sanciona es aquello que, sin etiquetar, intenta hacerse pasar por grabaciones reales.

Lo que de verdad merece observación es si la etiqueta implícita resiste el reprocesamiento. Cuando un vídeo con marca de agua se corta y se inserta en la obra de otro, pasa por varias recodificaciones y se vuelve a publicar como captura de pantalla, la tasa de supervivencia de la marca cae. Es una carencia que el propio OpenAI reconoce: su marca de agua de texto, tras sustituir el 10 % de las palabras, baja su tasa de detección de alrededor del 92 % al 66 %, y con una sustitución del 25 % se queda en apenas el 17 %. El etiquetado encarece la falsificación, pero no puede cerrarle el paso por completo.

El problema más práctico está en los límites. Una foto real a la que la IA retocó la piel, cambió el fondo y borró a los transeúntes, ¿cuenta como generada por IA? La norma da una orientación, pero el juicio concreto depende de las reglas de aplicación de cada plataforma. Si la etiqueta se aplica de forma demasiado amplia, todo el mundo etiqueta y la etiqueta pierde valor informativo; si es demasiado estrecha, se deja fuera una gran cantidad de contenido que está en zona gris.

La norma de etiquetado cambia el valor por defecto. Antes, determinar si un contenido estaba generado por IA era cosa de la plataforma y del público, pero no del emisor. Ahora es, en primer lugar, cosa del emisor. Este paso no resuelve todos los problemas, pero convierte «generado por IA» de una opción que se podía ocultar en una pregunta a la que hay que responder.