← Torna al blog
Aicirca 7 min di lettura

99,2% di rilevamento e 0,27% di errori: guarda su cosa hanno testato

Pubblicato 11 nov 2026
99,2% di rilevamento e 0,27% di errori: guarda su cosa hanno testato

Pangram ha rilasciato due modelli di computer vision il 4 novembre. Pangram Image 1.0 rileva le immagini generate dall’AI. Pangram Image Flash 1.0 è il fratello più piccolo e più veloce, e il suo compito è scorrere frame per frame un video generato dall’AI e dire quali parti vengono da un generatore.

Il lancio aggiunge output a heatmap, upload nativo dei video, un’estensione per Chrome e accesso API sia per le immagini sia per i video. Su X l’azienda ha detto che Image 1.0 identifica il 99,2 per cento delle immagini generate dall’AI mantenendo un tasso di falsi positivi dello 0,27 per cento.

Sono i due numeri che puoi mettere in una slide. Sono anche quelli per cui conviene leggere la nota a piè di pagina.

Come è stato misurato il 99,96 per cento

Per la valutazione sulle immagini, Pangram ha preso 100 fotografie reali e ne ha creato specchi sintetici con 12 generatori di immagini diversi. I prompt erano scritti per somigliare da vicino a ogni foto originale, producendo 1.200 immagini sintetiche. Su quel set l’azienda riporta un’accuratezza del 99,96 per cento per Image 1.0.

È un test ben progettato per una domanda specifica. Dato che ogni foto reale ha una controparte sintetica con la stessa scena e lo stesso soggetto, il modello non può barare imparando che le foto di spiaggia sono vere e gli scatti di prodotto sono falsi. Deve guardare i pixel.

Non è un test di cosa succede quando punti il modello sull’internet aperto. Pangram lo dice apertamente: la cifra descrive la prestazione su questo accoppiamento mirato di immagini reali e sintetiche, non un tasso di accuratezza universale per ogni immagine che si incontra online.

La distinzione conta più di quanto sembri. Il profilo di errore reale di un rilevatore è dominato dalle immagini a cui nessuno ha pensato quando ha costruito il test set: screenshot di screenshot, immagini passate per tre app di messaggistica, JPEG vecchi, scansioni di stampe, qualsiasi cosa con una striscia di watermark, e gli output dei generatori usciti dopo che il test set è stato congelato. Un set pulito di 100 foto speculari non può misurare niente di tutto questo.

Il tasso di falsi positivi dello 0,27 per cento è il più interessante dei due numeri di copertina, perché i falsi positivi sono ciò che fa accusare le persone. Allo 0,27 per cento, circa un’immagine reale su 370 viene segnalata. Per una redazione che controlla una manciata di foto al giorno è una coda di revisione gestibile. Per una piattaforma che scansiona cento milioni di caricamenti sono duecentocinquantamila utenti accusati a torto, ed è per questo che a quella scala nessuno si affida a un solo classificatore.

Il numero sui video è quello allarmante

Il benchmark sui video è il punto in cui questo rilascio diventa scomodo.

Pangram ha valutato Flash 1.0 con DF26, un benchmark descritto in un preprint inviato il 7 settembre 2026. DF26 contiene 271 video reali e 2.420 sintetici prodotti da sette modelli video moderni. Il contenuto è deliberatamente ristretto e deliberatamente difficile: una persona che parla direttamente in camera, dichiarazioni ufficiali, interviste in studio. È il formato deepfake che fa davvero danni, perché è quello in cui l’ipotesi di default dello spettatore è che la persona sia reale.

Gli autori del benchmark riportano che sia le persone sia i rilevatori di deepfake allo stato dell’arte hanno ottenuto risultati vicini al caso su quel set. Sostengono la necessità di valutazioni che testino esplicitamente la robustezza agli spostamenti di distribuzione dei generatori moderni.

Quel risultato merita un momento di riflessione. Vicino al caso significa un lancio di moneta con qualche passaggio in più. I rilevatori sono ben costruiti. Sono stati addestrati e valutati su una generazione precedente di falsi, e i generatori più nuovi non lasciano gli stessi artefatti. Un rilevatore che ha imparato a vedere le deformazioni intorno alla mascella è inutile quando la mascella non si deforma.

Pangram dice che Flash 1.0 segna il 98,7 per cento su DF26, che descrive come 29 punti sopra il secondo rilevatore migliore. Se regge a una replica indipendente, è un divario ampio su un benchmark progettato apposta per rompere la generazione precedente di strumenti. È anche un numero dichiarato dall’azienda su un benchmark scelto dall’azienda, valutato con il suo harness: la posizione onesta è promettente, non verificato.

Cosa fa davvero il prodotto

L’elenco delle funzioni è più informativo del marketing.

L’output a heatmap localizza il materiale sintetico dentro un’immagine. È la capacità che conta per il caso reale più comune, che non è un’immagine interamente generata ma una fotografia vera con un elemento generato inserito, o un’immagine reale con una regione generata dipinta sopra. Un’etichetta sì/no lì è inutile. Una heatmap dice a un editor dove guardare.

L’upload nativo dei video esegue l’analisi frame per frame dentro la dashboard e individua quali porzioni di un video risultano segnalate. Per una clip di due minuti produce una timeline del sospetto invece di un verdetto, che è l’output giusto per un revisore umano.

L’estensione per Chrome segnala materiale generato dall’AI su social network, siti di shopping e annunci di affitti. È quest’ultima la categoria che costa soldi alla gente. Le foto degli annunci di affitto sono il posto classico in cui un’immagine generata costa a qualcuno denaro vero.

Cosa è cambiato dall’anteprima di luglio

L’anteprima di ricerca del 29 luglio 2026 accettava solo immagini da 512×512 pixel in su, ed elencava esplicitamente deepfake e face swap tra i casi che non riusciva a rilevare con sicurezza. Era un limite onesto, ed era anche un buco grande, visto che i face swap sono il caso dannoso più comune.

La versione 1.0 dichiara prestazioni migliori su deepfake, immagini a bassa risoluzione e modelli di generazione di frontiera. L’input minimo ora è 256×256, con un avviso di confidenza ridotta sotto i 512. L’azienda dice di aver addestrato il nuovo modello a rilevare trasformazioni come compressione, ridimensionamento, sfocatura e rumore, introdotte dalle piattaforme social o da attori che cercano di sfuggire al rilevamento.

Quell’ultima frase fa molto lavoro. Quasi tutte le immagini AI del mondo reale ti arrivano dopo essere state ricompresse da almeno una piattaforma. Un rilevatore che funziona solo su PNG intatti è uno strumento da laboratorio.

Anche l’accesso si è allargato. Nell’anteprima l’accesso all’API per le immagini era solo su invito e l’input video nella dashboard era elencato come lavoro futuro. Ora ci sono entrambi.

Il problema strutturale che nessuno ha risolto

Il rilevamento è un problema di classificazione in cui una delle due parti può iterare. Ogni volta che un generatore migliora, la distribuzione degli artefatti si sposta, e ogni rilevatore addestrato sulla vecchia distribuzione perde accuratezza. I difensori devono continuare a vincere. Gli attaccanti devono vincere una volta sola, sull’immagine che conta.

È il divario che gli standard di provenienza come C2PA sono stati costruiti per chiudere. Una firma crittografica su uno scatto in camera è un tipo di affermazione diverso da una congettura statistica sui pixel. La firma si può rimuovere, ma quando c’è non è una probabilità.

I due approcci sono complementari, non concorrenti. La provenienza risponde a «sappiamo da dove viene». Il rilevamento risponde a «sembra generato». Una redazione vuole entrambi, una piattaforma vuole entrambi, e nessuno dei due basta da solo.

La proposta di Pangram è in sostanza che il rilevamento non è un problema risolto e che qualcuno dovrebbe venderlo come prodotto con heatmap e API invece che come demo di ricerca. È un business ragionevole. Il numero del 99,2 per cento gli farà ottenere riunioni. Il 98,7 per cento su DF26 è ciò su cui dovrebbero essere interrogati, nel dettaglio, da qualcuno che ha l’harness del benchmark e un generatore nuovo.

Una nota pratica per chi lo usa

Se un rilevatore ti dice che un’immagine è generata dall’AI, hai una pista. Se ti dice che un’immagine è reale, non hai niente. Quell’asimmetria è dentro il problema, e nessuna cifra di accuratezza la cambia. Il tasso di falsi positivi dello 0,27 per cento ti dice quanto spesso lo strumento ti metterà in imbarazzo in una direzione. Nulla nell’annuncio ti dice quanto spesso manca un falso ben fatto, e quel numero è sempre peggiore.

Quindi usalo come strumento di triage, conserva la heatmap, registra la versione del modello accanto al verdetto, e metti in conto di rifare la valutazione ogni volta che esce un generatore importante. L’emivita dell’accuratezza di un rilevatore si misura in mesi.

Articoli correlati