La marca de agua no sigue el ritmo de lo falso

Las plataformas ahora etiquetan automáticamente el contenido generado por IA. Una nueva auditoría sugiere que las etiquetas siguen sin alcanzar las falsificaciones que más importan.

Unos investigadores auditaron el etiquetado de IA en Instagram, TikTok, X y YouTube, usando como referencia las directrices de la Comisión Europea sobre deepfakes de julio de 2026. Las cuatro plataformas aplicaron etiquetas automáticamente, y una mayor proporción de las etiquetas fueron aplicadas por la propia plataforma en lugar de por quien subió el contenido, lo que supone un avance respecto a auditorías anteriores. El problema es la cobertura.

Solo el 33 por ciento de los deepfakes identificados por expertos en contextos de riesgo sistémico llevaban una etiqueta de IA aplicada por la plataforma. Esos elementos sin etiquetar alcanzaron una mediana de 160.000 visualizaciones, lo que significa que una gran audiencia los vio sin ninguna advertencia adjunta. En subidas controladas de contenido generado por IA que llevaban señales de procedencia estándar, las plataformas etiquetaron solo el 61 por ciento, y eliminaron por completo las señales ocultas del 39 por ciento de las subidas.

Esa última cifra es la que debería preocupar a cualquiera que construya sobre la procedencia. La etiqueta se aplica en la superficie. La señal que permitiría a alguien rastrear el elemento más tarde se elimina en el proceso de entrada.

Por qué desaparece la señal

Las plataformas recodifican los medios. Los redimensionan, los comprimen, eliminan los metadatos y los vuelven a alojar. Cada uno de esos pasos es hostil a una marca de agua frágil, y los sistemas que adjuntan la procedencia en el momento de la generación no pueden controlar lo que ocurre después.

Esta es la tensión que expone la auditoría. Las empresas que generan medios sintéticos han hecho en gran medida el trabajo de firmar sus resultados. Las plataformas que los distribuyen no han hecho el trabajo de preservar la firma y, en muchos casos, su procesamiento normal la elimina antes de que alguien vea la publicación.

El resultado es un régimen de etiquetado que funciona cuando quien sube el contenido coopera y falla cuando no lo hace. Un usuario que quiere que su contenido de IA esté etiquetado normalmente lo conseguirá. Un usuario que quiere que no esté etiquetado puede recodificar el archivo, y los propios flujos de procesamiento de la plataforma a menudo ayudarán.

Lo que una marca de agua puede y no puede hacer

SynthID de Google DeepMind es el intento más ampliamente desplegado de resolver el problema de adjuntar la marca, y un pódcast que el laboratorio publicó el 1 de octubre expuso los objetivos de diseño con una claridad inusual. Presentado por Hannah Fry y con la participación de Pushmeet Kohli, vicepresidente de Ciencias de DeepMind y uno de los arquitectos de SynthID, junto con el investigador en bioseguridad Jeremy Radcliffe, el episodio describe qué hace útil a una marca de agua: debe ser imperceptible para las personas, difícil de eliminar incluso después de ediciones y transformaciones, y fácil de integrar y detectar a escala.

El módulo de inserción y el detector de SynthID se entrenan juntos contra un adversario que recorta, rota, reduce y añade ruido al contenido, por lo que la marca está diseñada para sobrevivir precisamente al procesamiento que elimina las señales más débiles. La detección está integrada en la aplicación Gemini. Los socios que comparten sus claves pueden verificarse a través de un servicio central. Organizaciones de noticias han usado SynthID para verificar imágenes que circulan en línea.

Esa es una posición técnica sólida contra la eliminación accidental. No es una posición sólida contra la eliminación deliberada, y el pódcast es honesto sobre el límite. Los marcadores y los metadatos pueden eliminarse o alterarse. Los marcadores basados en texto pueden ofuscarse reescribiendo. Una marca de agua eleva el coste de borrado. No hace que el borrado sea imposible.

De las imágenes a las proteínas

La segunda mitad del episodio se traslada a un terreno más extraño. Radcliffe describe SynthID Bio, una prueba de concepto que aplica las mismas ideas a secuencias biológicas diseñadas por IA, de modo que una secuencia producida por un modelo pueda distinguirse de una encontrada en la naturaleza.

El propósito es la trazabilidad antes de la síntesis. Si un diseño proviene de un sistema de IA, marcarlo significa que el origen puede establecerse antes de que se construya algo físico, lo cual importa para la bioseguridad de una manera que una fotografía con marca de agua no. El mismo principio que protege a una redacción que verifica una imagen en circulación se extiende a un laboratorio que decide si una secuencia debería existir.

La analogía no es perfecta. Las secuencias de proteínas y ADN tienen restricciones funcionales que las imágenes no tienen, y la prueba de concepto es incipiente. Pero muestra hasta dónde puede llegar la idea de procedencia una vez que aceptas que la pregunta no es «esto es real» sino «quién firmó esto y cuándo».

El reloj regulatorio y la brecha de confianza

Las normas se han puesto al día más rápido que las herramientas. Las obligaciones de transparencia de la Ley de IA de la UE se aplican desde el 2 de agosto de 2026 y exigen etiquetas legibles por máquina para cierto contenido generado o manipulado por IA, y avisos visibles para la audiencia en el caso de deepfakes y algunos materiales de interés público. Las sanciones previstas en el artículo 50 pueden alcanzar los 15 millones de euros o el 3 por ciento del volumen de negocios anual global, lo que sea mayor. Anthropic ha anunciado la aplicación de marcas de agua al contenido producido por Claude, sumándose a una lista de laboratorios que ahora marcan sus resultados.

Las expectativas de los consumidores también han cambiado. En una encuesta de Capgemini de 2026 a 12.000 consumidores, el 67 por ciento afirmó que espera que las empresas indiquen claramente cuándo un anuncio que se les muestra fue generado por IA. La demanda de etiquetado no proviene solo de los reguladores.

Lo que sugiere la auditoría es que la etiqueta y la confianza se están separando. Las plataformas pueden señalar un sistema de etiquetado automático y el cumplimiento de sus políticas. Un espectador que ve un deepfake sin etiquetar con 160.000 visualizaciones no tiene forma de saber si la ausencia de etiqueta significa que el contenido es auténtico o que la etiqueta falló. La ausencia de evidencia se interpreta como evidencia de autenticidad, que es lo contrario de lo que se supone que debe producir un régimen de etiquetado.

La versión cotidiana del problema

Las cifras de la auditoría describen contextos de riesgo sistémico, pero la misma maquinaria rige el contenido ordinario. Una imagen generada por IA de un producto, una persona o un lugar que circula sin marca es tratada como una fotografía por casi todos los que la ven, y la corrección, si alguna vez llega, llega mucho después de que el elemento haya viajado.

Un episodio aparte ilustró el punto con más crudeza. Una imagen generada por IA de un zapato inexistente, atribuida a un diseñador, se difundió por medios de comunicación y redes sociales de Hungría y fue citada en comentarios de expertos antes de que alguien estableciera que el artículo no existía. Nadie estaba blanqueando un secreto de Estado. Estaban difundiendo una imagen que parecía plausible, y el paso de verificación nunca ocurrió porque hacerlo era más difícil que compartirla.

Ese es el problema práctico que la marca de agua pretende abordar, y es un problema de conductas por defecto más que de adversarios decididos. La mayoría de las personas no eliminará una marca. Simplemente interpretarán su ausencia como algo significativo, lo hayan pretendido o no.

Qué cerraría realmente la brecha

Dos cambios moverían las cifras más que cualquier mejora en las marcas de agua. El primero es la preservación: las plataformas tendrían que conservar la procedencia durante su propio procesamiento en lugar de eliminarla, lo cual es un compromiso de infraestructura, no un problema de modelo. El segundo es una señal pública para las etiquetas ausentes, de modo que un elemento sin etiquetar se trate como no verificado en lugar de verificado.

C2PA Content Credentials, el estándar de procedencia respaldado por una alianza de miembros que abarca a Adobe, Amazon, la BBC, Google, Meta, Microsoft, OpenAI y Sony, es el vehículo más probable para lo primero. Adjunta un manifiesto firmado criptográficamente en la captura o exportación y permite que cualquiera lo verifique con herramientas abiertas. No puede detectar falsificaciones creadas antes de la firma y no clasifica nada como real o falso. Lo que hace es crear una cadena de custodia, que es precisamente lo que se pierde de camino a un feed.

Hasta que esa cadena sobreviva a la subida, el resumen honesto del etiquetado de IA en 2026 es incómodo. Los sistemas funcionan. La cobertura, no. Y la brecha la está llenando lo que la audiencia decida asumir.