I tre indizi dell’«effetto IA»: quattro pixel fuori posto, un timbro invisibile e nessuna firma

Prima la conclusione

Nelle ultime due settimane sono uscite tre notizie che sembrano non c’entrare nulla l’una con l’altra. In realtà parlano della stessa cosa.

Il 7 ottobre Google ha aperto a tutti il suo rilevatore di watermark SynthID. Il 9 ottobre Nikon ha revocato il primo premio di un concorso di microscopia perché qualcuno aveva trovato un watermark nel video. Più o meno nello stesso periodo, un progetto open source che genera diagrammi per agenti di programmazione è finito nei trend di GitHub con una promessa curiosa: «niente ombre, niente Mermaid, e tutti gli spazi devono essere divisibili per 4».

Rilevamento, responsabilità, estetica. Ma se li si mette uno sopra l’altro, «effetto IA» smette di essere una parola misteriosa: ha tre origini concrete, l’allineamento, la provenienza, la firma. Le prime due si possono correggere. La terza è difficile.

Prima crepa: quattro pixel di scarto

Il progetto si chiama Diagram Design, l’autrice è Cathryn Lavery. Ha una regola che sembra noiosissima: tutte le coordinate, le larghezze e gli spazi devono essere divisibili per 4.

Secondo lei è proprio questo il segreto per non far «sembrare IA» l’output. Vale la pena fermarsi. Nessuno nota se un riquadro è largo 137 pixel o 136. Però si sente che «qualcosa non torna», senza saper dire cosa. L’occhio umano è ipersensibile ai disallineamenti, solo che lo segnala come un disagio vago, non come un giudizio netto.

Il primo strato di «falso» in un’immagine generata, quindi, di solito non sta nel contenuto: sta nel ritmo. Un designer umano sceglie spaziature che formano un sistema. Il modello restituisce 13,5, 27, 54: numeri che «sembrano quasi giusti». Quel quasi è tutto.

La buona notizia è che questo strato è il più facile da sistemare. Stabilire regole, usare una griglia, trasformare le spaziature in variabili. Sono problemi di ingegneria.

Seconda crepa: il timbro che non si vede

SynthID è un watermark invisibile incorporato nel file. Non si vede a occhio nudo e di solito sopravvive a compressione e ritaglio. Dal 7 ottobre chiunque può caricare un’immagine, un video o un audio e verificare se porta quel timbro. La copertura va oltre i modelli di Google: ci sono anche OpenAI, Nvidia e Kakao, e Apple dovrebbe aggiungersi presto.

Ma a trasformare il timbro in un caso pubblico è stata la vicenda Nikon.

Il concorso Small World in Motion di Nikon ha assegnato il primo premio a un video microscopico di ciglia vibratili di Xu Ning, che mostrava tessuto delle vie aeree di un bambino con discinesia ciliare primitiva. Dopo l’annuncio, gli scienziati hanno iniziato a cercare il pelo nell’uovo: strutture viola che apparivano e sparivano dal nulla, ciglia verdi «spuntate da chissà dove». Un dottorando della UT Southwestern Medical Center ha passato il materiale in Gemini e ha trovato SynthID.

La versione di Xu Ning: l’IA è stata usata solo in post, per separare e colorare strutture di forma simile nei dati in scala di grigi ricostruiti; il video originale e il movimento delle ciglia sono reali. La risposta di Nikon è stata molto misurata: ha parlato di un lavoro «non conforme al regolamento di questa edizione sull’IA generativa», l’ha inquadrata come questione di ammissibilità e ha precisato che non costituisce un giudizio sulla reputazione accademica né sulle intenzioni dell’autore. La classifica è stata poi corretta e l’opera rimossa dalla galleria dei vincitori.

Il punto più spinoso è che la microscopia implica sempre elaborazione. Denoising, deconvoluzione, falsi colori: passaggi necessari per «riuscire a vedere qualcosa». Perciò la linea che Nikon doveva tracciare non era «hai usato l’IA», ma «l’elaborazione ha aggiunto qualcosa che non c’era». Un watermark non risponde a questa domanda. Dice solo che uno strumento ha toccato il file.

L’altro caso è più quotidiano. Su Fortnite è uscito un brano intitolato «Meow» con un watermark Gemini nell’angolo in basso a destra della copertina. I giocatori l’hanno notato e l’immagine è stata sostituita. Il distributore ha detto che il visual l’aveva fornito l’artista; l’artista ha detto di non saperne nulla. Nessuno ha accusato la piattaforma di aver falsificato. Il watermark ha fatto una cosa piccolissima: dire chi aveva toccato il file. Il resto l’ha fatto la reazione social da sola.

Terza crepa: nessuno firma

Il terzo strato è il più difficile da correggere, perché non è un problema tecnico.

Wired ha raccontato questo mese che almeno tre delle cinque maggiori case editrici statunitensi — HarperCollins, Simon & Schuster e Hachette — hanno usato strumenti di IA senza dichiararlo pubblicamente e senza avvisare gli autori. Non solo per le copertine: anche per email agli agenti letterari, testi promozionali, quarte di copertina e materiali di marketing. Secondo alcuni dipendenti, molto arrivava dalla direzione.

Le tre risposte sono significative. Hachette ha detto di sostenere l’uso dell’IA per il lavoro «operativo» che aiuta i libri a raggiungere più lettori, ma di «non sostenere l’uso dell’IA per scopi creativi, comprese le comunicazioni con autori e partner». Il problema: scrivere a un agente è operativo, una quarta di copertina è creativo, e secondo i suoi stessi dipendenti quella linea è già stata superata. Simon & Schuster ha detto che il personale può usare un numero limitato di strumenti enterprise, che l’uso non è obbligatorio e che quelli non approvati sono vietati; ma «non obbligatorio» e «non è successo» sono due cose diverse. HarperCollins non ha risposto.

La copertina è delicata perché è uno dei pochi passaggi della filiera editoriale in cui un nome viene attribuito esplicitamente. Un illustratore ha portfolio, tariffario, agente. Sostituire un incarico con una generazione non fa solo risparmiare: toglie una porta d’ingresso a chi prova a entrare nel settore. E l’autore, il cui nome è stampato in copertina, di solito è l’ultimo a sapere da dove arriva quella copertina.

Questo strato non ha soluzioni tecniche. Un watermark può provare che uno strumento ha toccato un file, una griglia può far sembrare un’immagine più umana, ma «chi l’ha fatta e se è stato riconosciuto» lo può dire solo l’istituzione: una riga nel colophon, una clausola nel contratto, un campo nei metadati.

Quindi, come capire se un’immagine «sembra fatta dall’IA»?

Prima lo scheletro. C’è ritmo in allineamento, spaziature, respiro? Questo strato vale l’ottanta per cento, e dipende quasi solo dalle regole, non dal modello.

Poi le tracce. C’è il timbro invisibile, il file ha un’origine tracciabile? Questo strato si sta trasformando in strumenti e diventa sempre più alla portata di chiunque.

Infine la firma. Chi l’ha fatto, chi l’ha approvato, chi l’ha sottoscritto. Questo strato non ha strumenti, solo abitudini.

I primi due strati si possono rattoppare con la tecnica. Il terzo no: si sistema solo quando qualcuno accetta di metterci il proprio nome.