Riesci ancora a distinguere un'immagine IA da una reale? La risposta onesta è no.

Questo mese sta girando un gioco che trasforma una domanda seria in un tabellone. Ti mostra un flusso di immagini e ti chiede di segnalare quali sono generate dall'IA. Le persone ci giocano convinte di avere buon occhio, poi vedono la loro precisione crollare più o meno nel punto in cui l'IA inizia a rendere correttamente le mani umane realistiche. Sono anni che quello non è più un indizio affidabile. Il gioco ha superato i cento punti su Hacker News, e i commenti sembrano un gruppo di sostegno per persone che scoprono la propria cecità.

Gli indizi sono scomparsi

Ogni scorciatoia su cui le persone facevano affidamento si è chiusa. Dita in più, testo malformato, pelle di plastica, illuminazione impossibile. I modelli attuali gestiscono tutto questo abbastanza bene che non puoi affidarti a nessuno di questi singoli elementi. Il testo in particolare è migliorato drasticamente, il che ha eliminato una delle ultime facili vittorie per il rilevamento umano. Un modello che rendeva leggibile un cartello dentro una scena era un tempo un indizio decisivo. Ora è il minimo indispensabile.

Il risultato è una situazione strana. Le immagini sono migliorate, ma la capacità umana di individuarle no. La maggior parte delle persone, davanti a una buona immagine IA e una foto reale messe fianco a fianco, tira a indovinare. La popolarità del gioco ne è in parte la prova: è divertente proprio perché continui a sbagliare, e lo sbagliare è il punto. La sicurezza è alta e la precisione sta intorno al lancio di una moneta.

Nemmeno i rilevatori ci salvano

C'è un mercato parallelo di strumenti di rilevamento IA, ed è altrettanto traballante. Nascono nuovi strumenti che promettono di individuare immagini IA, funzionano in laboratorio e falliscono sul campo. Un rilevatore tarato sugli artefatti di un modello fatica su quelli del modello successivo. Comprimi un'immagine, ridimensionala o falla passare attraverso la ricodifica di una piattaforma social, e le impronte sottili su cui il rilevatore faceva affidamento vengono cancellate.

Peggio, i rilevatori producono falsi positivi. Una foto reale con una certa illuminazione o un filtro pesante può farli scattare. Per uno strumento pensato per ripristinare la fiducia nelle immagini, un falso positivo è un problema serio, perché permette a chiunque di liquidare una foto autentica come falsa. Gli strumenti di rilevamento, in altre parole, possono essere usati come arma in entrambe le direzioni. Non è un difetto che si risolve con più addestramento. È strutturale.

La corsa agli armamenti ha un solo vincitore

C'è un'asimmetria fondamentale che le persone continuano a sottovalutare. I generatori cercano di produrre immagini che sembrino reali, e hanno un obiettivo chiaro. I rilevatori cercano di individuarle, e inseguono un bersaglio mobile che continua a migliorare. In una corsa agli armamenti, di solito vince la parte con un obiettivo chiaro e un ciclo di iterazione rapido, e quella parte sono i generatori.

Ogni nuovo modello costringe i rilevatori a riaddestrarsi, e quando recuperano, il modello successivo è già stato rilasciato. Il divario non si sta chiudendo. Si sta allargando, e si allarga a ogni rilascio. Chi vende strumenti di rilevamento ha un incentivo a sembrare ottimista, ma la tendenza reale non è dalla loro parte. Semmai, la posizione onesta è che il rilevamento affidabile è una partita persa, e prima lo accettiamo, prima possiamo lavorare su ciò che aiuta davvero.

Cosa significa in pratica

La risposta onesta a “riesci a distinguerle” è: non in modo affidabile, e sempre più spesso no. La domanda più utile è come conviviamo con questo. La verifica deve spostarsi a monte, sulla provenienza. Se un'immagine è firmata alla creazione, o porta con sé un registro di da dove viene e di come è stata modificata, allora non devi strizzare gli occhi sui pixel. Controlli i metadati.

Quell'infrastruttura per gli utenti comuni esiste a malapena. Alcuni produttori di fotocamere e piattaforme stanno sperimentando le credenziali di contenuto, ma non è lo standard, e nel momento in cui un'immagine viene catturata con uno screenshot, la catena si spezza. Finché non cambia, l'impostazione predefinita è lo scetticismo, e lo scetticismo è estenuante. È anche corrosivo, e questa è la parte che stiamo appena iniziando a sentire.

Il costo sociale è la vera storia

Il danno non riguarda davvero l'essere ingannati da un'immagine falsa. Riguarda il crollo della fiducia condivisa. Quando qualsiasi foto può essere fabbricata, e gli strumenti di rilevamento sono inaffidabili, le persone iniziano a dubitare di tutto, comprese le prove reali. È un problema più grave di qualsiasi singola immagine, ed è quello che la tecnologia non ha risolto.

Questa è la parte che il discorso tecnico continua a non cogliere. Le persone preoccupate per le immagini IA non temono principalmente di essere ingannate da un filtro divertente. Temono un mondo in cui una fotografia reale di un evento reale può essere liquidata come falsa, e una falsa può essere difesa come reale. Quando la prova stessa è in dubbio, gli argomenti che si basano sulle prove smettono di funzionare. Non è un problema di rilevatori. È un problema di fiducia, ed è più grande di qualsiasi strumento da entrambe le parti.

La responsabilità si sposta, e nessuno la vuole

Una delle trame secondarie silenziose è che la responsabilità continua a essere spostata senza atterrare da nessuna parte. I creatori dei modelli dicono che stanno solo fornendo uno strumento. Le piattaforme dicono che non possono verificare ogni immagine. Gli utenti dicono che non dovrebbero fare gli analisti forensi. Tutti hanno tecnicamente ragione, e il risultato è che nessuno è responsabile del danno quando un'immagine falsa fa danni.

Questa diffusione della responsabilità è il vero problema. Quando un'immagine manipolata si diffonde e causa danni, il danno è reale, ma non c'è un singolo attore il cui compito fosse intercettarla. Il creatore del modello ha distribuito uno strumento capace, la piattaforma lo ha ospitato, e l'utente ci ha creduto. Ogni anello della catena può indicare il successivo e sostenere di non aver fatto nulla di male.

Finché la responsabilità non atterra da qualche parte concreta, la risposta predefinita sarà dare la colpa allo strumento o a chi guarda, e nessuna delle due funziona. Dare la colpa allo strumento è come dare la colpa a una fotocamera per una foto messa in scena. Dare la colpa a chi guarda ignora che nessun essere umano può più distinguere in modo affidabile. La soluzione onesta è strutturale: regole chiare sulla divulgazione e sulla provenienza che vincolino chi pubblica e distribuisce immagini, non chi le guarda.

Cosa viene davvero dopo

I generatori di immagini hanno vinto la corsa agli armamenti. Sono diventati così bravi che la domanda “è reale?” non ha più una risposta rapida. Il prossimo problema da risolvere non è creare rilevatori migliori. È costruire un sistema in cui la verità di un'immagine non dipenda dal fatto che il tuo occhio la colga per caso. Provenienza, contenuti firmati, catene di custodia verificabili. Sono cose noiose, e sono l'unica cosa che funzionerà davvero. L'occhio ha perso, e fingere il contrario dà a tutti solo un falso senso di sicurezza.