Una filigrana invisibile ha cambiato tre verdetti in cinque giorni

In cinque giorni, questo mese, una filigrana invisibile è passata da curiosità tecnica a qualcosa che costa premi alle persone e obbliga le aziende a ristampare artwork.

Il 7 ottobre Google ha aperto il suo SynthID Detector a chiunque abbia un account. Il 9 ottobre Nikon ha squalificato il vincitore del primo premio del concorso Small World in Motion. Nel mezzo, Fortnite ha sostituito in silenzio la copertina di un brano dopo che i fan avevano notato una filigrana Gemini in un angolo.

Nessuno di questi episodi riguarda una tecnologia di rilevamento magica. Tutti e tre riguardano ciò che accade quando un segnale diventa qualcosa su cui la società può agire.

Che cos'è davvero SynthID e che cosa dice davvero il detector

SynthID è una filigrana che Google incorpora nei media creati dai suoi modelli: impercettibile, progettata per resistere a compressione e ritaglio. Il detector è una pagina web gratuita: carichi un'immagine, un video o un file audio e ti dice se quella filigrana è presente.

La copertura è più ampia dei modelli di Google. Secondo l'azienda, lo strumento segnala i media realizzati con i suoi modelli e con quelli di partner come OpenAI, Nvidia e Kakao, con il supporto per Apple in arrivo. È un passo significativo, perché un detector che riconosce solo l'output di un fornitore è un programma fedeltà, non uno strumento di integrità.

I limiti contano altrettanto, e va dato atto a Google di dichiararli: il detector trova SynthID e nient'altro. Le altre aziende usano standard diversi, quindi l'assenza di un segnale non dimostra nulla. Un risultato positivo non ti dice se il file è stato generato da zero o solo modificato con uno strumento che applica il marchio. E le filigrane non sono a prova di manomissione: chi ha abbastanza determinazione può rimuoverle o danneggiarle.

Resta la domanda pratica: se un segnale non è una prova, perché ha cambiato tre esiti in una settimana?

Nikon: il caso che verrà citato per anni

Il 16° concorso Small World in Motion ha assegnato il primo premio al dott. Ning Xu per un video di ciglia — le strutture simili a capelli che rivestono le vie aeree — che battevano in modo anomalo in tessuto di un bambino con discinesia ciliare primitiva, una rara malattia genetica.

Poi gli scienziati hanno iniziato a guardare. Edward Phelps, professore associato alla University of Florida, ha descritto pubblicamente problemi strutturali: strutture viola che appaiono e scompaiono, ciglia verdi che spuntano dal nulla. Ian Donovan, studente MD/PhD alla UT Southwestern, ha fatto passare il materiale da Gemini e ha segnalato una filigrana SynthID.

La versione di Xu, affidata a un commento LinkedIn poi cancellato, è che l'IA è stata usata in post-produzione: una rete neurale non supervisionata applicata a dati in scala di grigi ricostruiti, per separare e colorare strutture di forma simile. Sostiene che il video originale, le ciglia e il loro movimento siano reali, e che non pensava di violare le regole.

La decisione di Nikon è stata più stretta di quella di internet. L'azienda ha dichiarato che il lavoro «non rispettava il regolamento del concorso in materia di IA generativa», che la decisione si basava esclusivamente sull'idoneità e che non va letta come un giudizio sulla reputazione professionale di Xu, sui suoi contributi scientifici o sulle sue intenzioni. Ha inoltre riconosciuto che nel flusso di post-produzione e visualizzazione è stato usato un metodo a rete neurale non supervisionata, e ha annunciato che rivedrà regolamento e procedure di valutazione. La classifica si è mossa: Nguyen Nam Nhat è ora primo, seguito da Benedikt Pleyer, Andrew Moore, Patrick Hickey e Igor Adameyko. Il lavoro squalificato è sparito dalla galleria.

Ecco il punto scomodo. Il falso colore è standard in microscopia da decenni. Denoising, deconvoluzione e ricostruzione sono il modo in cui ottieni un'immagine quando spingi oltre il limite di diffrazione. La linea che Nikon doveva tracciare non è «IA o non IA». È se l'elaborazione ha aggiunto struttura che nei dati non c'era. È una linea molto più difficile, e una filigrana non risponde.

Fortnite: la filigrana che nessuno ha controllato

Il secondo caso è più piccolo e, per certi versi, più rivelatore. Fortnite ha aggiunto un brano intitolato «Meow» di Ironmouse, Sleeping Forest e HalaCG. I fan hanno notato una filigrana Google Gemini nell'angolo in basso a destra dell'artwork: non solo nel gioco, ma anche sulle piattaforme di streaming.

La risposta di Epic è stata che l'artwork era stato fornito dall'artista e corrispondeva a quello usato altrove, e che l'immagine è stata sostituita appena l'artista ha consegnato un rimpiazzo. Ironmouse ha detto di non saperne nulla, che è stato il suo team a chiedere il cambio, e che la situazione è stata estremamente deludente.

Nota cosa è successo: nessuno ha accusato Epic di aver generato l'artwork. La filigrana ha fatto il suo lavoro di segnale di provenienza — ti diceva che un modello Gemini aveva toccato quel file — e la conseguenza sociale è seguita da lì. Il fallimento interessante non è stato il rilevamento. È che un asset con filigrana sia passato attraverso un'artista, un'etichetta, una piattaforma di gioco e diversi servizi di streaming senza che nessuno notasse un piccolo marchio nell'angolo.

Che cosa dovrebbe registrare oggi uno studio

Se produci immagini per mestiere, la risposta pratica a questo mese non è abbonarsi a un servizio di rilevamento. È tenere una traccia di provenienza che sopravviva a una contestazione.

Vuol dire la cattura grezza, non solo l'export. Il file di progetto, con lo stack di livelli intatto. Un registro di quale strumento generativo ha toccato quale passaggio, anche se la risposta è «nessuno». Un changelog datato per tutto ciò che viene pubblicato. Niente di tutto questo è entusiasmante, ed è esattamente ciò che un concorso, un cliente o una piattaforma chiederanno quando compare un segnale.

Vuol dire anche decidere la propria policy di divulgazione prima di averne bisogno. Un fotografo che può dire «uso il riempimento generativo per togliere la polvere e nient'altro» è in una posizione molto più solida di chi deve ricostruire quella risposta sotto pressione, in pubblico, a memoria.

Il lato istituzionale ha gli stessi compiti. Un regolamento che dice «i video generati con IA non sono ammessi» non è una regola verificabile finché qualcuno non definisce dove finisce il miglioramento. Nikon ha ora annunciato che rivedrà regolamento e procedure di valutazione. Ogni altro concorso con una clausola sull'IA sta per scoprire lo stesso vuoto.

La svolta silenziosa: da «è IA?» a «chi l'ha toccata?»

Per due anni la discussione sul rilevamento dell'IA è stata impostata come binaria — vero o falso — e la tecnologia ha continuato a perdere quella discussione, perché il rilevamento è probabilistico e l'accusa non lo è.

Le filigrane cambiano la domanda. Non chiedono se un'immagine è vera. Chiedono se uno strumento specifico è stato coinvolto nel produrla. È un'affermazione molto più debole, e molto più difendibile. Ed è esattamente l'affermazione di cui hanno bisogno le istituzioni: un concorso può far rispettare una regola di idoneità, una piattaforma può richiedere una dichiarazione, un editore può fare una domanda a un fornitore.

Le regole di etichettatura dell'UE sull'IA si basano sulla stessa logica. Come ogni casella di divulgazione che hai visto quest'anno. Nessuna richiede di dimostrare che un'immagine è sintetica. Richiedono di allegare un fatto a un file.

Il che ci riporta a ciò che ai fotografi viene detto di continuo e che continuano a ignorare: conservate gli originali. File RAW, file di progetto, log di cattura, quell'archivio noioso che nessuno apre. In un mondo dove un segnale può costarti un premio, l'unico alibi affidabile è la traccia documentale che mostra con cosa hai iniziato.

Il detector ora è gratuito. Questo non lo rende un giudice. Lo rende un testimone — e i testimoni sono utili solo se qualcuno ha conservato le prove.