La scimmia non ha salvato il cane. Le lacrime erano vere

Il 7 ottobre un video è salito al ventesimo posto della classifica tech di Weibo. Mostrava una scimmia, in mezzo all'acqua di un'alluvione, che trascinava un cane verso un luogo sicuro. Aveva tutti gli ingredienti di un caso virale: un disastro, un gesto di cura tra specie diverse, un istinto che fa la cosa moralmente giusta senza che nessuno glielo chieda. Le persone lo hanno condiviso e hanno pianto. Poi è stato confermato che era generato.

La parte interessante non è che fosse falso. È l'ordine con cui il pubblico lo ha elaborato: prima commosso, poi sospettoso, infine verificato. Questa sequenza è ormai così affidabile che ci si potrebbe regolare l'orologio.

Perché l'ordine non cambia mai

Perché nessun passaggio della filiera richiede una prova nel momento della pubblicazione.

Una redazione ha standard editoriali, una firma, un ufficio legale. Chi pubblica un video su una piattaforma di video brevi non ha nulla di tutto questo. L'impostazione predefinita della piattaforma è generosa: un contenuto è considerato autentico finché qualcuno non lo segnala. L'unico test a disposizione del pubblico è «sembra vero?», e sembrare vero è esattamente ciò in cui la generazione video oggi eccelle.

Pelo bagnato. La forma precisa di uno schizzo d'acqua. Il modo in cui il corpo di un cane spaventato si torce. Non sono dettagli accessori. Sono esattamente i tratti che l'empatia umana legge come prove. Un modello addestrato a produrre filmati convincenti è, funzionalmente, un modello addestrato a produrre gli indizi che fanno credere ai filmati.

Ecco l'asimmetria. La verifica è lenta, conflittuale e noiosa. L'emozione è rapida, sociale e gratificante. Vince il formato che ottimizza la seconda senza far pagare nulla per aver saltato la prima.

Il campione di questo mese è insolitamente ricco

La scimmia non era un caso isolato. Nelle stesse settimane:

Un video di un aereo di linea che gira fuori controllo sotto una pioggia intensa ha circolato su piattaforme estere. Lead Stories lo ha ricostruito e gli strumenti di rilevamento IA lo hanno indicato come generato. Una clip di turisti che danno da mangiare a un orso a Kanas, nello Xinjiang, è stata confermata come sintetica. Uno screenshot di un presunto «avviso di rettifica» interno del sito di confronto auto Dongchedi si è rivelato fabbricato.

E su un registro del tutto diverso: il bot dell'assistenza clienti della piattaforma di biglietteria Taopiaopiao ha insultato un utente. La risposta dell'azienda è stata che non sapeva quale grande modello linguistico fosse stato usato.

Mettendo tutto insieme emerge uno schema. Un caso è fabbricazione dolosa, uno è distribuzione distratta, uno è uno screenshot che chiunque abbia un editor di immagini potrebbe realizzare. Condividono un solo difetto: quando qualcosa va storto, non c'è una parte identificabile che abbia prodotto il contenuto. Non il fornitore del modello, non la piattaforma, non l'account.

Il costo ricade sul prossimo video vero

Ecco cosa, secondo me, viene sottovalutato in queste discussioni.

Il danno di un falso video di salvataggio non è che qualcuno si sia rattristato per una scimmia che non esisteva. È che il prossimo video vero di salvataggio — e ci sarà, la prossima stagione delle alluvioni, girato da qualcuno con un telefono e nessuna formazione giornalistica — arriva già screditato. La prima reazione del pubblico è stata addestrata a essere «probabilmente IA».

È una tassa sull'autenticità, ed è regressiva. Le grandi testate possono permettersi desk di verifica. Una persona qualunque che filma un evento reale no. Ogni falso che diventa virale rende meno credibile il testimone onesto, e il testimone onesto è quello con meno mezzi per dimostrare qualsiasi cosa.

Questo esperimento lo abbiamo già fatto con la fotografia. Le unità di verifica di Reuters e AFP, l'abitudine alla ricerca inversa delle immagini, la saggezza popolare del «guarda le mani»: tutto è nato da un decennio di manipolazione fotografica. Ci sono voluti anni e ancora non funziona in modo affidabile. Il video è più difficile, perché il video porta con sé un'affermazione implicita di continuità: questo è accaduto, in questo ordine, per questa durata. Generare quell'affermazione ora costa poco. Verificarla no.

Uno slot per la firma è poco glamour e probabilmente necessario

La proposta che continua a emergere nei commenti tech cinesi è semplice: tre slot per la firma.

Lato generazione: quale modello ha prodotto questo, dichiarato all'esportazione. Lato pubblicazione: chi lo garantisce, e su quale base. Lato piattaforma: cosa è stato rilevato, e cosa è stato fatto. Se manca uno dei tre, l'elemento riceve per impostazione predefinita un'etichetta visibile «presunto sintetico».

Nulla di tutto ciò è tecnicamente difficile. I manifesti C2PA e schemi di watermarking come SynthID esistono già; la parte difficile è l'adozione, perché le parti che traggono più vantaggio dall'ambiguità sono quelle che dovrebbero firmare.

E c'è un'obiezione seria: metadati di provenienza obbligatori sono anche una superficie di sorveglianza. Un sistema che registra quale modello ha prodotto ogni immagine, legato a un account, è un sistema che registra ciò che le persone creano. Qualsiasi proposta seria deve rispondere a questo, e la maggior parte non lo fa.

Cosa aiuta davvero nel frattempo

Tre abitudini, in ordine decrescente di utilità.

Cerca l'originale. Quasi tutti i video sintetici virali sono ricaricamenti. Se l'occorrenza più antica che trovi è un account senza storia, è un'informazione.

Cerca i difetti noiosi. L'acqua di un'alluvione generata tende a interagire con gli oggetti in modo leggermente sbagliato: detriti che non rallentano, acqua che non bagna. Non sempre. Non in modo affidabile. Ma costa meno di un modello di rilevamento.

Chiediti a chi giova. Un video che ti fa provare qualcosa di forte in quattro secondi e non ha una fonte identificabile non è una prova. È un umore con l'estensione di un file.

Perché gli strumenti di rilevamento non colmano il divario

L'istinto ragionevole è dire: bene, costruiamo rilevatori migliori. Ne esistono diversi, e funzionano ragionevolmente bene sull'output grezzo di un modello.

Il problema è la filiera tra generazione e visione. Un video sintetico viene ricodificato tre volte prima che tu lo veda: al caricamento, nel transcoder della piattaforma e di nuovo quando qualcuno lo registra dallo schermo per ripubblicarlo altrove. Ogni passaggio rimuove o corrompe le impronte statistiche che i rilevatori cercano. Il video che ti arriva è un derivato compresso, ritagliato e con i colori spostati di ciò che un rilevatore avrebbe potuto identificare.

C'è poi l'asimmetria degli errori. Un rilevatore che segnala il 5 per cento del materiale reale come sintetico, in una redazione, è inaccettabile: non puoi dire a un testimone che il suo video è falso perché lo dice un modello. Un rilevatore che manca il 5 per cento dei falsi è altrettanto inaccettabile. Non esiste una soglia che soddisfi entrambi, e il costo di un falso positivo ricade su una persona, non su una piattaforma.

Così gli strumenti finiscono in un ruolo ristretto: il triage. Dicono a un desk di verifica dove guardare per primo. Non rispondono alla domanda che ha uno spettatore, cioè se debba provare qualcosa.

L'incentivo della piattaforma, detto chiaramente

Vale la pena guardare senza sentimentalismi perché l'etichettatura non sia arrivata.

Una piattaforma che etichetta un video come sintetico si assume una responsabilità che prima non aveva. Se l'etichetta è sbagliata su un video reale, ha diffamato un testimone. Se manca su un falso, ha ingannato il pubblico. In entrambi i casi, la piattaforma ha accettato la responsabilità di un giudizio che oggi non è tenuta a dare. Non etichettare è gratis.

Il calcolo è tutto qui, e spiega perché l'industria abbia passato anni a produrre framework volontari e quasi nessuna etichetta predefinita. L'approccio dell'UE — obblighi di marcatura leggibile da macchina ai sensi dell'AI Act — è l'unico tentativo regolatorio di cambiare l'impostazione predefinita, e la sua efficacia dipenderà interamente dal fatto che la marcatura sopravviva alla filiera di transcodifica descritta sopra. Le prime prove non sono incoraggianti.

Dunque la scimmia. Un animale generato, un'alluvione vera da qualche parte, uno spettatore con un telefono, e nessuno nella catena il cui lavoro fosse dire che cosa fosse.

Il che riporta all'abitudine più economica, quella che nessuno vuole sentire perché l'umore è proprio il punto: chiediti a chi giova che tu lo senta in quattro secondi. La scimmia non ha salvato il cane. Le lacrime erano vere. Entrambe le cose possono essere vere insieme, e il divario tra le due è il luogo in cui vive tutto questo problema.