Google ha trasformato «guarda se questa immagine è generata dall'IA» in un sito web

Il 7 ottobre Google ha portato SynthID Detector sul web pubblico. L'indirizzo è breve, synthid.com: dopo aver effettuato l'accesso, basta trascinare dentro un'immagine, un video o un file audio e in pochi secondi ti dirà: filigrana rilevata, oppure nessuna filigrana rilevata.

In passato l'unica strada era chiedere aiuto a Gemini. Caricavi il file e poi guardavi il modello descrivere a parole ciò che vedeva; ottenere un secco «sì» o «no» era faticoso. Ora Google ha scorporato il giudizio in una voce a sé, che richiede solo di accedere e non di interpretare il modo di esprimersi del modello.

180 miliardi di immagini e 240.000 anni di audio

SynthID non è una novità. Google lo ha introdotto già nel 2023 sui propri modelli generativi: il metodo consiste nell'incorporare direttamente nei pixel e nelle forme d'onda audio un segnale invisibile all'occhio e inudibile all'orecchio, invece di inserirlo nei metadati, che si possono cancellare con un clic. Questo punto è importante: i metadati sono come un foglietto adesivo attaccato dietro la cornice, che dopo copia-incolla, screenshot o salvataggio altrove spesso sparisce, mentre il segnale scritto nei pixel viaggia insieme all'immagine. Secondo i numeri pubblicati da Google, dall'attivazione nel 2023 a oggi ha contrassegnato oltre 180 miliardi tra immagini e video, più una quantità di contenuti audio pari a 240.000 anni. L'ordine di grandezza della parte audio può sembrare esagerato, ma in realtà comprende tutto ciò che è stato prodotto dalla generazione musicale di Lyria e dalla funzione podcast di NotebookLM.

Anche la filigrana è stata resa resistente alle manipolazioni. Secondo la documentazione tecnica di Google DeepMind, le filigrane di immagini e video vengono inserite nel momento stesso della generazione e restano rilevabili con buona probabilità anche dopo ritaglio, applicazione di filtri, cambi di frame rate e compressione lossy; quelle audio sono state irrobustite contro l'aggiunta di rumore, la compressione MP3 e la riproduzione a velocità variabile. Il testo generato da Gemini segue invece un'altra strada: il segnale viene nascosto tramite il fine-tuning della distribuzione dei punteggi assegnati dal modello a ogni parola candidata, senza alcun cambiamento visibile nel testo.

Il cambiamento chiave di questa apertura sta nei partner. In precedenza il detector riconosceva solo le filigrane di Google: un'immagine generata da ChatGPT, anche se portava un SynthID, non veniva comunque segnalata negli strumenti di Google. Ora questo limite è caduto e il detector supporta anche OpenAI, NVIDIA, la coreana Kakao, mentre Apple ha promesso di aggiungersi in seguito.

In pratica, con un solo caricamento si possono verificare contemporaneamente le tracce di generazione di più aziende, senza dover passare una per una dalle rispettive pagine di verifica. Google ha inoltre integrato questa capacità in Ricerca, nell'app Gemini e in Chrome: insieme, questi tre punti gestiscono oltre un milione di richieste di verifica al giorno.

Perché non ti lasciano controllare all'infinito

Lo strumento è gratuito, ma con dei limiti. Ogni account ha circa 10 controlli al giorno per immagini, video e audio, e serve accedere con un account Google, OpenAI o Apple. Gli ingegneri di Google hanno spiegato il motivo: limitare l'accesso serve a impedire che qualcuno usi i risultati del rilevamento per addestrare al contrario uno strumento «anti-filigrana». Il numero della quota è volutamente vago: se carichi di seguito una serie di immagini molto simili, il sistema potrebbe bloccarti prima, perché sembra un tentativo di sondare qualche metodo per aggirarlo.

C'è un altro dettaglio da tenere presente. I file caricati vengono elaborati in tempo reale ed eliminati subito dopo il risultato, ma la firma digitale del file viene conservata per 24 ore, per conteggiare la quota giornaliera.

«Non rilevato» non significa «non generato dall'IA»

È il punto che più di tutti va chiarito, e Google stesso lo scrive nelle sue FAQ: non si tratta di un rilevatore universale di IA. Può riconoscere solo i contenuti prodotti da aziende che adottano la tecnologia SynthID.

Nella realtà ci sono moltissimi contenuti che restano fuori dal suo raggio d'azione. Microsoft e Meta seguono standard di filigrana propri e nessuna delle due compare nella lista dei partner di Google; quest'anno Meta ha anche avuto un caso in cui il suo detector non ha riconosciuto immagini AI ritagliate da sé stessa. Ancora più decisivo è il caso dei modelli a pesi aperti, che chiunque può eseguire sulla propria macchina e i cui contenuti non hanno nemmeno la più elementare marcatura nei metadati.

Quindi la lettura corretta di «nessuna filigrana rilevata» è «origine sconosciuta», non «è autentico». Il file può venire da un modello non collegato a SynthID, oppure può semplicemente essere stato ritagliato, compresso o ricopiato così tante volte da consumare il segnale.

L'approccio alternativo di Google è esattamente l'opposto: invece di marcare i contenuti AI, marcare quelli reali. Strumenti crittografici come C2PA firmano le informazioni sulla provenienza già sul dispositivo di ripresa, e i telefoni Pixel sono tra i pochi prodotti che lo fanno già. Uno appone un'etichetta ai contenuti falsi, l'altro ai contenuti veri: due strade che coprono ciascuna un'estremità.

Per l'utente comune, il valore pratico di questo sito sta nell'essere un punto d'accesso unificato. Davanti a un'immagine sospetta, la si carica e si controlla una volta, poi si valuta insieme alla fonte, al momento e al contesto: più affidabile che guardare il solo risultato. Vale la pena notare che i formati supportati sono piuttosto ampi: per le immagini JPG, PNG, WEBP e HEIC; per i video MP4, MOV e WEBM; per l'audio i tipi più comuni come WAV, MP3 e FLAC. Quasi tutti i file che si incontrano quotidianamente si possono caricare direttamente.

Nel contesto cinese, in questi sei mesi il dibattito su «questa immagine è disegnata dall'IA?» non si è mai fermato, e le foto finite sui siti di stock e le illustrazioni che scorrono sul telefono sono sempre più difficili da distinguere. Avere un posto in più dove controllare è sempre positivo, a patto di non trattarlo come una sentenza. L'abitudine di giudizio che serve davvero costruire è questa: il rilevamento della filigrana fornisce un segnale puntuale; quando dice «sì» è piuttosto affidabile, quando dice «no» non dice praticamente nulla. Se un'immagine sia credibile dipende in ultima analisi da chi l'ha scattata o generata, in quale contesto l'ha pubblicata e se esiste una seconda parte che possa confermarla. Lo strumento può aiutarti a escludere una parte, ma non a trarre conclusioni.