La detección de deepfakes tiene tres líneas de defensa, y la primera es voluntaria

Las herramientas de detección funcionan mejor de lo que la mayoría supone, y eso no es el hecho tranquilizador que parece. La procedencia basada en marcas de agua ofrece una precisión cercana al 100% cuando hay una marca presente. No ofrece nada cuando un generador se niega a añadir una.

Esa asimetría es toda la forma del problema. Existe una defensa por capas, y una de sus capas depende de la cooperación de la parte que intentas detectar.

La consecuencia práctica es que la precisión de detección llega como tres números que describen tres mecanismos diferentes, y el mecanismo que mejor funciona es el de alcance más limitado. Entender en qué mecanismo te apoyas en cada momento es la diferencia entre una postura de seguridad y una falsa sensación de ella.

Línea uno: la procedencia, que requiere consentimiento

SynthID de Google incorpora una señal que sobrevive al recorte, la rotación, la reducción y el ruido añadido, porque el insertador y el detector se entrenan conjuntamente contra un adversario que realiza exactamente esas transformaciones. La detección está integrada en la aplicación Gemini, y los socios que comparten sus claves pueden verificarse a través de un servicio central. Anthropic ha anunciado la marca de agua para la salida de Claude. Las empresas que adoptan las Credenciales de contenido de C2PA adjuntan datos de procedencia firmados a los archivos.

Cuando hay una marca presente, la precisión de detección se acerca al 100%, con una comprobación que tarda milisegundos. La tecnología está madura y los estándares existen.

La brecha está en la adopción. La Ley de IA de la UE exige etiquetas legibles por máquina para cierto contenido generado o manipulado por IA desde el 2 de agosto de 2026, y avisos visibles para la audiencia en el caso de los deepfakes. El cumplimiento es desigual, y los actores más motivados a producir falsificaciones convincentes no tienen razón alguna para ofrecer voluntariamente una etiqueta. Las marcas de agua y la procedencia ayudan a los actores honestos a demostrar que son honestos. No llegan a las personas que dirigen campañas de desinformación.

Línea dos: la detección de artefactos, que se degrada

La detección basada en artefactos busca rastros que deja el proceso de generación, y alcanza una precisión del 85% al 92% en los modelos con los que se entrenó. El número que importa es qué ocurre cuando se enfrenta a un modelo que no ha visto. Los clasificadores entrenados con modelos de difusión o vocoders específicos pierden aproximadamente un 40% de su rendimiento frente a una nueva arquitectura; la tasa de error igualada en audio salta del 3,8% en dominio al 18,5% fuera de dominio.

Esa degradación es estructural y no es reparable. Cada nuevo modelo de generación cambia la firma estadística en la que se basa la detección, por lo que el detector siempre trabaja a partir de una descripción de la última generación de herramientas. Los proveedores comerciales de detección actualizan sus huellas en cuestión de días tras el lanzamiento de un modelo importante, lo que es una cinta de correr más que una solución.

La informática forense a nivel de píxel sigue detectando casos reales. Luz sobre un producto que resulta inconsistente con la iluminación del fondo, patrones de ruido que coinciden con un modelo de difusión conocido, una frecuencia de parpadeo de tres por minuto frente a una media humana de quince a veinte, movimiento de labios desincronizado con la pista de audio por una fracción de segundo. Esas comprobaciones funcionan, y fallan frente al siguiente modelo que las corrija.

Línea tres: el comportamiento de red, que detecta campañas

El tercer enfoque deja de mirar el contenido y empieza a mirar la distribución. Las campañas de desinformación coordinadas dejan rastros en los patrones de publicación, los momentos de creación de cuentas y las redes de compartición, y el análisis de redes alcanza una precisión del 70% al 80% en operaciones a gran escala. Es rápido y detecta cosas que la detección de artefactos pasa por alto.

Le cuesta el caso que más importa a nivel individual. Una única falsificación bien elaborada, distribuida a través de cuentas ordinarias, imitando actividad humana orgánica, no tiene ninguna firma de red que encontrar.

Dónde falla realmente cada línea

Pon las tres líneas sobre la misma tabla y la forma del problema se vuelve clara. La procedencia es casi perfecta y voluntaria. La detección de artefactos es amplia y se degrada con cada nuevo modelo. El análisis de redes es rápido y ciego ante el caso individual.

Los modos de fallo se acumulan. Un detector de artefactos reentrenado tras el lanzamiento de un modelo es preciso frente a ese modelo e incierto frente al siguiente, y el ciclo de actualización del proveedor se mide en días mientras que el ciclo de lanzamiento de modelos se mide en semanas. Una plataforma que depende de la salida del detector como su principal filtro va un paso por detrás de un adversario que solo tiene que ganar una vez.

El error práctico más común es tratar una puntuación de detección como un veredicto. Un clasificador que informa de una probabilidad del 98% de generación está informando de una similitud con patrones con los que fue entrenado. Eso es una evidencia fuerte, y no es una prueba, y la diferencia importa en cualquier contexto donde la consecuencia sea acusar a una persona real de fraude o fabricación.

Los falsos positivos conllevan su propio coste. Un detector que clasifica erróneamente la música de una banda humana como totalmente generada por IA le ha dicho a un artista en activo que su trabajo parece hecho por una máquina, lo cual es un problema de reputación que ninguna estadística de precisión captura. A medida que los flujos de trabajo asistidos por IA se normalizan en los campos creativos, la población de casos límite crece, y con ella el número de personas que pueden ser señaladas erróneamente.

Qué significa esto en la práctica

Para una redacción o una plataforma, la doctrina de trabajo es la de capas. Filtra los medios entrantes con una herramienta basada en API en el punto de ingesta. Combina la detección automatizada con verificación humana para todo lo de alto riesgo. Mantén una base de datos de granjas de contenido de IA conocidas para tener contexto.

El Pentágono ha reconocido lagunas en su capacidad para rastrear campañas de desinformación habilitadas por IA, lo que sugiere que incluso la detección gubernamental bien dotada de recursos va por detrás del sector comercial. Las salvaguardas regulatorias de la UE han sido criticadas por ser insuficientes frente a actores patrocinados por el Estado que adaptan sus tácticas.

Auditar una pila de detección es una disciplina en sí misma. Una herramienta que informa de su intervalo de confianza, su fecha de corte de datos de entrenamiento y sus modos de fallo conocidos es más útil que una que informa de un único porcentaje, porque el operador puede razonar sobre cuándo confiar en ella. Los proveedores que publican sus tasas de falsos positivos y su cadencia de actualización valen más que los proveedores que solo publican la precisión.

El resumen honesto es que la detección es una capa en una defensa, no una respuesta autónoma, y la capa más fuerte es la que depende de personas que no tienen incentivo para participar. Eso deja la crítica de fuentes, la reputación de los editores y el juicio de los lectores individuales haciendo más trabajo que cualquier clasificador. Para el consumo rutinario, la verificación completa de cada imagen es poco práctica, y la pregunta que la gente realmente responde cientos de veces al día no es «¿esto es real?» sino «¿confío en de dónde viene?».

Una investigación del NIST plantea el punto desde la dirección opuesta. La confianza depende de elementos de diseño que ayudan a los usuarios a interpretar el rendimiento del sistema, y no del rendimiento por sí solo. La transparencia es lo que permite a las personas establecer expectativas realistas. Y una encuesta de Capgemini de 2026 a 12.000 consumidores encontró que el 67% espera que las empresas indiquen claramente cuándo un anuncio fue generado por IA, lo que sugiere que las audiencias están listas para que la divulgación sea lo predeterminado. Si los generadores lo están es una pregunta diferente.

El calendario regulatorio avanza en paralelo. La Ley de IA de la UE se aplica desde el 2 de agosto de 2026, y exige etiquetas legibles por máquina para cierto contenido generado por IA y avisos visibles para la audiencia en el caso de deepfakes y algunos materiales de interés público. Anthropic ha anunciado la marca de agua para la salida de Claude. Los estándares para identificar de forma fiable la salida de IA textual y visual siguen en desarrollo, lo que significa que el cumplimiento hoy se basa en métodos propietarios que no interoperan.