Google convierte «averiguar si esta imagen fue generada por IA» en un sitio web

El 7 de octubre, Google puso SynthID Detector en la web pública. La dirección es muy corta, synthid.com; tras iniciar sesión, puedes arrastrar una imagen, un vídeo o un audio y, unos segundos después, te dirá: se ha detectado una marca de agua, o no se ha detectado.

Antes, para esto había que pedirle ayuda a Gemini. Subías un archivo y veías cómo el modelo describía en lenguaje natural lo que había visto; conseguir un «sí» o «no» claro resultaba complicado. Ahora Google ha separado la evaluación en sí y la ha convertido en un acceso en el que solo hay que iniciar sesión, sin necesidad de entender la jerga del modelo.

180.000 millones de imágenes y 240.000 años de audio

SynthID no es algo nuevo. Google lo utilizó en sus propios modelos generativos ya en 2023. El método consiste en codificar directamente en los píxeles y en las ondas de audio una señal invisible para el ojo humano e inaudible para el oído, en lugar de meterla en metadatos que se pueden borrar con un solo clic. Esto es importante: los metadatos son como una nota adhesiva pegada detrás del marco de un cuadro; tras copiar y pegar, hacer una captura de pantalla o volver a guardar el archivo, suelen desaparecer, mientras que la señal escrita en los píxeles viaja junto con la imagen. Según las cifras publicadas por Google, desde su lanzamiento en 2023 ha marcado más de 180.000 millones de imágenes y vídeos, además de una cantidad de audio equivalente a 240.000 años. La magnitud de la parte de audio suena exagerada, pero en realidad incluye todo el contenido producido por la generación musical de Lyria y la función de pódcast de NotebookLM.

La marca de agua en sí también se ha diseñado para resistir modificaciones. Según la documentación técnica de Google DeepMind, las marcas de agua de imágenes y vídeos se escriben en el momento de la generación y siguen teniendo una probabilidad relativamente alta de ser detectadas tras recortes, filtros, cambios de velocidad de fotogramas y compresión con pérdida; las marcas de audio, por su parte, se han reforzado contra la superposición de ruido, la compresión MP3 y la reproducción a velocidad alterada. El texto generado por Gemini sigue otro camino: introduce la señal mediante un ajuste fino de la distribución de puntuaciones del modelo para cada palabra candidata, de modo que el texto que ve el ojo humano no cambia en absoluto.

El cambio clave de esta apertura está en los colaboradores. Antes, el detector solo reconocía las marcas de agua de Google; una imagen generada por ChatGPT, aunque también llevara SynthID, no se marcaba en la herramienta de Google. Ahora esa limitación ha desaparecido y el detector es compatible con OpenAI, NVIDIA, la surcoreana Kakao, y Apple también ha prometido sumarse después.

En la práctica, una sola subida permite comprobar a la vez los rastros de generación de varias empresas, sin tener que ir una por una a sus páginas de verificación. Google además ha integrado esta capacidad en la Búsqueda, la aplicación Gemini y Chrome, que en conjunto procesan más de un millón de solicitudes de verificación al día.

Por qué no permiten consultar sin límite

La herramienta es gratuita, pero tiene límites. Cada cuenta dispone de unas 10 comprobaciones diarias de imágenes, vídeos y audio, y hay que iniciar sesión con una cuenta de Google, OpenAI o Apple para usarla. Los ingenieros de Google explicaron el motivo: limitar el acceso evita que alguien use los resultados de detección para entrenar a la inversa una herramienta que elimine marcas de agua. La cifra del límite se ha dejado deliberadamente imprecisa; si subes seguidas muchas imágenes muy similares, es posible que el sistema te bloquee antes, porque parece un intento de tantear alguna forma de eludirlo.

Hay otro detalle que conviene tener en cuenta. Los archivos subidos se procesan en tiempo real y se eliminan inmediatamente después de obtener el resultado, pero la firma digital del archivo se conserva durante 24 horas para contabilizar la cuota del día.

«No detectado» no significa «no generado por IA»

Este es el punto que más claro hay que dejar sobre toda la herramienta, y Google lo escribió también en sus preguntas frecuentes: no es un detector de IA universal. Solo puede identificar contenido producido por empresas que utilizan la tecnología SynthID.

En la práctica, hay una gran cantidad de contenido que queda por naturaleza fuera de su ámbito de detección. Microsoft y Meta siguen sus propios estándares de marca de agua y ninguna de las dos está en la lista de colaboradores de Google; Meta incluso sufrió este año un caso en el que su propio detector no detectó imágenes de IA recortadas por la propia Meta. Más decisivo aún son los modelos de pesos abiertos, que cualquiera puede ejecutar en su propia máquina y cuyo contenido generado ni siquiera lleva el marcado de metadatos más básico.

Por eso, la lectura correcta de «no se ha detectado marca de agua» es «origen desconocido», no «esto es real». El archivo puede venir de un modelo que no está integrado con SynthID, o simplemente haber sido recortado, comprimido o regrabado hasta tal punto que la señal se haya desgastado.

El otro enfoque de Google es justo el contrario: en lugar de etiquetar el contenido de IA, etiquetar el contenido real. Métodos criptográficos como C2PA firman la información de origen ya en el dispositivo de captura, y los teléfonos Pixel son uno de los pocos productos que ya lo hacen. Uno pone etiquetas al contenido falso y el otro al contenido real; son dos caminos que cubren cada uno un extremo.

Para el usuario común, el valor práctico de este sitio web está en que es un punto de entrada unificado. Si ves una imagen sospechosa, primero pásala por él para comprobarla y luego júzgala junto con su origen, fecha y contexto; eso es más fiable que mirar solo el resultado. Cabe destacar que admite bastantes formatos: en imágenes, JPG, PNG, WEBP y HEIC; en vídeo, MP4, MOV y WEBM; y en audio, tipos comunes como WAV, MP3 y FLAC. La gran mayoría de los archivos que encontramos a diario se pueden subir directamente.

En el contexto chino, en los últimos seis meses no han parado las discusiones sobre «si esta imagen está dibujada por IA», y cada vez es más difícil distinguir las fotos finales de los bancos de imágenes de las ilustraciones que aparecen en el móvil. Tener un lugar más donde comprobarlo siempre es bueno, siempre que no se tome como una sentencia. El hábito de juicio que de verdad hay que desarrollar es este: la detección de marcas de agua ofrece una señal puntual; cuando dice «sí», su fiabilidad es relativamente alta, y cuando dice «no», prácticamente no dice nada. Si una imagen es fiable o no depende, en última instancia, de quién la tomó o la generó, en qué circunstancias se publicó y si hay una segunda parte que pueda corroborarlo. La herramienta puede ayudarte a descartar una parte, pero no puede sacar conclusiones por ti.