El mono no salvó al perro. Las lágrimas sí eran reales

El 7 de octubre, un vídeo subió al vigésimo puesto de la lista de tecnología de Weibo. Mostraba a un mono, en medio de una inundación, arrastrando a un perro hacia un lugar seguro. Tenía todos los ingredientes que necesita un éxito: un desastre, un gesto de cuidado entre especies, un instinto que hace lo moralmente correcto sin que nadie se lo pida. La gente lo compartió y lloró. Después se confirmó que estaba generado.

Lo interesante no es que fuera falso. Es el orden en que el público lo procesó: primero emocionado, después desconfiado, por último verificado. Esa secuencia es hoy tan fiable que casi se puede poner el reloj en hora con ella.

Por qué el orden nunca cambia

Porque ningún eslabón de la cadena exige una prueba en el momento de publicar.

Una redacción tiene estándares editoriales, una firma y un departamento jurídico. Quien sube un vídeo a una plataforma de vídeo corto no tiene nada de eso. La configuración por defecto de la plataforma es generosa: el contenido se trata como auténtico hasta que alguien lo denuncia. La única prueba de la que dispone el público es «¿parece real?», y parecer real es justo lo que la generación de vídeo hace hoy excepcionalmente bien.

Pelaje mojado. La forma concreta de una salpicadura. El modo en que el cuerpo de un perro asustado se retuerce. No son detalles accesorios. Son exactamente los rasgos que la empatía humana lee como pruebas. Un modelo entrenado para producir metraje convincente es, funcionalmente, un modelo entrenado para producir las señales que hacen que la gente crea el metraje.

Ahí está la asimetría. La verificación es lenta, adversarial y aburrida. La emoción es rápida, social y gratificante. Gana el formato que optimiza la segunda sin cobrar nada por saltarse la primera.

La muestra de este mes es inusualmente rica

El mono no fue un caso aislado. En esas mismas semanas:

Un vídeo de un avión de pasajeros girando sin control bajo una lluvia intensa circuló en plataformas extranjeras. Lead Stories lo rastreó y las herramientas de detección de IA lo marcaron como generado. Un clip de turistas dando de comer a un oso en Kanas, en Xinjiang, se confirmó como sintético. Una captura de pantalla de un supuesto «aviso de rectificación» interno del sitio de comparación de coches Dongchedi resultó ser falsa.

Y en un registro completamente distinto: el bot de atención al cliente de la plataforma de entradas Taopiaopiao insultó a un usuario. La respuesta de la empresa fue que no sabía qué gran modelo de lenguaje se había usado.

Puestos juntos, aparece un patrón. Un caso es fabricación maliciosa, otro es despliegue descuidado, otro es una captura de pantalla que cualquiera con un editor de imágenes podría hacer. Comparten un solo defecto: cuando algo sale mal, no hay una parte identificable que haya producido el contenido. Ni el proveedor del modelo, ni la plataforma, ni la cuenta.

El coste recae sobre el próximo vídeo real

Esto es lo que creo que se subestima en estos debates.

El daño de un vídeo falso de rescate no es que alguien se entristeciera por un mono que no existía. Es que el próximo vídeo real de rescate —y lo habrá, en la próxima temporada de inundaciones, grabado por alguien con un teléfono y sin formación periodística— llega ya desacreditado. La primera reacción del público ha sido entrenada para ser «probablemente IA».

Es un impuesto sobre la autenticidad, y es regresivo. Los grandes medios pueden pagar mesas de verificación. Una persona cualquiera que graba un hecho real no. Cada falsificación que se hace viral vuelve menos creíble al testigo honesto, y el testigo honesto es quien tiene menos capacidad de demostrar nada.

Ya hicimos este experimento con la fotografía. Las unidades de verificación de Reuters y AFP, los hábitos de búsqueda inversa de imágenes, la sabiduría popular de «mira las manos»: todo eso creció de una década de manipulación fotográfica. Llevó años y sigue sin funcionar de manera fiable. El vídeo es más difícil, porque el vídeo lleva una afirmación implícita de continuidad: esto ocurrió, en este orden, durante este tiempo. Generar esa afirmación ahora es barato. Auditarla no.

Un hueco para la firma es poco glamuroso y probablemente necesario

La propuesta que no deja de aparecer en los comentarios tecnológicos chinos es sencilla: tres huecos de firma.

Lado de la generación: qué modelo produjo esto, declarado al exportar. Lado de la publicación: quién lo avala y con qué base. Lado de la plataforma: qué se detectó y qué se hizo. Si falta cualquiera de los tres, el elemento recibe por defecto una etiqueta visible de «presuntamente sintético».

Nada de eso es técnicamente difícil. Los manifiestos C2PA y esquemas de marca de agua como SynthID ya existen; lo difícil es la adopción, porque las partes que más se benefician de la ambigüedad son las que tendrían que firmar.

Y hay una objeción legítima: los metadatos de procedencia obligatorios son también una superficie de vigilancia. Un sistema que registra qué modelo hizo cada imagen, atado a una cuenta, es un sistema que registra lo que la gente fabrica. Cualquier propuesta seria tiene que responder a eso, y la mayoría no lo hace.

Qué ayuda de verdad mientras tanto

Tres hábitos, en orden decreciente de utilidad.

Busca el original. Casi todos los vídeos sintéticos virales son resubidas. Si el ejemplar más antiguo que encuentras es una cuenta sin historial, eso es información.

Busca los fallos aburridos. El agua de inundación generada suele interactuar con los objetos de forma ligeramente incorrecta: restos que no frenan, agua que no moja. No siempre. No de forma fiable. Pero es más barato que un modelo de detección.

Pregunta a quién beneficia. Un vídeo que te hace sentir algo intenso en cuatro segundos y no tiene fuente identificable no es una prueba. Es un estado de ánimo con extensión de archivo.

Por qué las herramientas de detección no cierran la brecha

Hay un instinto razonable: vale, construyamos mejores detectores. Existen varios y funcionan razonablemente bien sobre la salida bruta de un modelo.

El problema es la cadena entre la generación y la visualización. Un vídeo sintético se recodifica tres veces antes de que lo veas: al subirse, en el transcodificador de una plataforma y otra vez cuando alguien lo graba en pantalla para repostearlo en otro sitio. Cada pasada elimina o corrompe las huellas estadísticas que buscan los detectores. El vídeo que te llega es un derivado comprimido, recortado y con el color desplazado de aquello que un detector podría haber identificado.

Luego está la asimetría de los errores. Un detector que marca el 5 por ciento del metraje real como sintético es, en una redacción, inaceptable: no puedes decirle a un testigo que su vídeo es falso porque lo diga un modelo. Un detector que se pierde el 5 por ciento de las falsificaciones también es inaceptable. No hay umbral que satisfaga a ambos, y el coste de un falso positivo recae sobre una persona, no sobre una plataforma.

Así que las herramientas acaban en un papel estrecho: el triaje. Le dicen a una mesa de verificación dónde mirar primero. No responden a la pregunta que tiene un espectador, que es si debe sentir algo.

El incentivo de la plataforma, dicho sin rodeos

Merece la pena mirar sin sentimentalismo por qué el etiquetado no ha llegado.

Una plataforma que etiqueta un vídeo como sintético asume una responsabilidad que antes no tenía. Si la etiqueta se equivoca en un vídeo real, ha difamado a un testigo. Si falta en una falsificación, ha engañado a una audiencia. En cualquier caso, la plataforma ha aceptado la responsabilidad de un juicio que hoy no tiene que hacer. No etiquetar es gratis.

Ese es todo el cálculo, y explica por qué la industria lleva años produciendo marcos voluntarios y casi ninguna etiqueta por defecto. El enfoque de la UE —obligaciones de marcado legible por máquina bajo el AI Act— es el único intento regulatorio de cambiar el valor por defecto, y su eficacia dependerá por completo de si el marcado sobrevive a la cadena de transcodificación descrita. Las primeras pruebas no son alentadoras.

Así que el mono. Un animal generado, una inundación real en algún sitio, un espectador con un teléfono y nadie en la cadena cuyo trabajo fuera decir qué era aquello.

Lo que devuelve al hábito más barato, ese que nadie quiere oír porque el estado de ánimo es justamente el objetivo: pregunta a quién beneficia que sientas esto en cuatro segundos. El mono no salvó al perro. Las lágrimas eran reales. Ambas cosas pueden ser ciertas a la vez, y la brecha entre ellas es donde vive todo este problema.