Il timelapse finto non è un problema di AI. È frode

Il 19 ottobre, qualcuno che scrive come k_from_HyperDraw nel subreddit r/aiwars ha fatto un'argomento da prendere sul serio proprio perché rifiuta di essere interessante: falsificare un timelapse d'arte non è un problema di etica dell'AI. È frode.

Il post descriveva una pratica abbastanza diffusa da farne discutere. Un creator mette in scena un timelapse di sé mentre dipinge, o paga qualcuno per filmare un timelapse, e presenta un'immagine generata dall'AI come prodotto di quel lavoro manuale. L'affermazione riguarda la paternità, non la qualità dell'immagine. L'immagine può essere buona. La storia di come è stata fatta è falsa.

L'argomento del post è che trattare la cosa come una questione di AI dà la risposta sbagliata a una domanda semplice. Se paghi un attore per fingere di dipingere un quadro che non hai dipinto, l'inganno è l'atto. Lo strumento usato per fare il quadro è incidentale. Uno scandalo di falsi d'arte del 1985 aveva la stessa forma e nessun modello generativo da nessuna parte.

Il post faceva anche un punto che taglia contro l'inquadratura usuale di entrambe le parti: rimuovere una filigrana e rifiutarsi di citare una fonte sono fallimenti di responsabilità umana, e chi non ama i modelli generativi e chi li ama dovrebbero poter essere d'accordo su questo senza essere d'accordo su nient'altro.

Perché il video di processo è diventato la prova

I timelapse non hanno mai riguardato davvero il processo. Riguardano la prova. In un feed dove chiunque può pubblicare un'immagine, la sequenza registrata, la mano, il pennello, l'accumulo senza fretta del dettaglio, è la cosa che dice che questa immagine l'ha fatta una persona. È un formato inefficiente che esiste perché l'efficienza non è il punto.

È anche il motivo per cui si è rotto. Un meccanismo di fiducia basato su «ci sono volute quaranta ore ed ecco il girato» smette di funzionare nel momento in cui si può produrre un'immagine convincente in novanta secondi e mettere in scena un timelapse convincente. Il meccanismo non si è indebolito. Si è disaccoppiato da ciò che misurava.

Quello che resta è un formato che segnala ancora «questo è reale» senza fornire alcuna prova, e un pubblico che per dieci anni è stato addestrato a leggere quel segnale.

La parte che non è un dibattito

C'è una versione di questa conversazione che gira in tondo su se usare strumenti generativi sia legittimo. Quella versione è irrisolvibile e non particolarmente utile. La versione che conta è più stretta: un committente che paga per una commissione dipinta a mano e riceve un'immagine generata è stato truffato, nel senso commerciale ordinario, indipendentemente dalla posizione di chiunque sull'AI.

Le commissioni sono il caso in cui questo ha denti. Una vendita in galleria, un accordo di licenza, un brief illustrativo con una tariffa allegata. In ognuno di questi casi il prezzo riflette un'assunzione sul lavoro e sulla paternità che il venditore sa che l'acquirente sta facendo. Mettere in scena un video per sostenere quell'assunzione non è una scelta di stile.

Il danno è anche distribuito in modo diseguale. Gli artisti che lavorano a mano ora devono dimostrarlo in un modo in cui cinque anni fa non dovevano, e la prova è costosa: più footage di processo, livestream, registrazioni dello schermo con timestamp. Il costo di essere creduti è salito per gli onesti ed è rimasto a zero per i disonesti, che è l'esito standard quando un segnale di fiducia è falsificabile.

La dichiarazione risolve la maggior parte di questo e non costa nulla. Un creator che dice «generato, poi rifinito a mano» non compete in modo disonesto con uno che dice «dipinto in sei settimane». Il mercato può prezzare diversamente le due cose una volta che sa quale è quale. Quello che rompe il mercato è il terzo caso, dove l'etichetta dice sei settimane e il file dice altro.

Cosa faranno probabilmente le piattaforme

La previsione che è seguita a questa discussione era che le piattaforme si sarebbero mosse verso metadati e verifica di provenienza per i caricamenti d'arte, perché distinguere un processo reale da uno messo in scena sta diventando tecnicamente fattibile e socialmente richiesto.

È giusto in direzione e probabilmente più lento di quanto suoni. Gli standard di provenienza esistono, e l'adozione è irregolare perché richiedono che lo strumento collabori. Un modello eseguito in locale può emettere qualunque cosa o nulla. Una piattaforma non può verificare ciò che non vede essere prodotto, e può controllare solo i metadati che qualcuno ha scelto di allegare.

Quello che le piattaforme possono fare a buon mercato è l'opposto: smettere di premiare il formato. Se i timelapse non sono più un segnale di ranking, l'incentivo a falsificarne uno cala. È un cambio di policy sui contenuti, non tecnico, ed è il tipo di cambiamento che le piattaforme fanno in silenzio quando l'alternativa è un sistema di verifica. È anche l'unica versione della soluzione che funziona su scala, perché toglie il guadagno invece di provare a controllare le prove.

Per le persone realmente coinvolte

Se commissioni illustrazioni, la difesa pratica è noiosa e funziona: chiedi il file di lavoro, non il video. Un file sorgente a livelli con una cronologia delle revisioni è molto più difficile da mettere in scena di un timelapse, ed è comunque l'artefatto di cui avresti bisogno se dovessi mai dimostrare cosa hai comprato.

Se sei un artista, lo stesso consiglio vale al contrario. Conserva i file di lavoro. Esporta in modo incrementale. Una cartella di stati salvati con timestamp è un registro di paternità più duraturo di qualsiasi video, e non richiede sforzo extra oltre a non cancellare le cose.

I contratti sono l'altro posto dove la cosa si risolve a buon mercato. Un accordo di commissione che stabilisce quale modello, se del caso, può essere usato e richiede il file sorgente alla consegna elimina l'ambiguità prima che inizi il lavoro. Quasi nessuno scrive ancora quella clausola. Chi lo fa non dovrà discuterne dopo, e non dovrà filmarsi mentre dipinge per dimostrare un punto.

E se sei il pubblico, l'aggiustamento utile non è il cinismo. È notare che un video di quaranta minuti di pittura è ora un'affermazione più che una dimostrazione, e che le affermazioni valgono esattamente quanto le prove allegate. Il più delle volte quella prova non ci sarà. Non è un motivo per presumere la frode. È un motivo per smettere di trattare il formato come prova.

Un post su Reddit non è una tendenza, e sarebbe un errore scriverne come di un movimento. È però un'enunciazione pulita di una distinzione che molto discorso continua a sfocare. La tecnologia è neutrale nel modo in cui è neutrale una pressa da stampa. Chi filma un attore che finge di dipingere e vende il risultato come proprio lavoro manuale sta facendo qualcos'altro, e lo avrebbe fatto anche nel 1985.