100 yuan per trenta secondi di un volto che non è tuo

Un'attrice si è svegliata con un video di sé stessa che consigliava un siero al collagene che non aveva mai usato. Il sincrono labiale tornava. La voce era abbastanza simile perché chi conosceva il suo lavoro non si ponesse domande. In un angolo, in piccolo, c'era una riga: questo contenuto include materiale generato con l'IA.

Il 19 ottobre l'account non c'era più, bandito in modo permanente. Prima di sparire, il siero aveva venduto più di 7,000 pezzi in trenta giorni, circa 500,000 yuan di ricavi. L'attrice, Wu Yue, è intervenuta pubblicamente su Weibo chiedendo quante persone fossero state truffate.

L'etichetta non ha salvato nessuno. C'era, leggibile se guardavi, e 7,000 persone hanno comprato comunque un prodotto per la pelle. Vale la pena fermarsi un secondo su questo punto.

Un video etichettato ha funzionato lo stesso

Tre cose dovevano essere vere perché funzionasse, e solo una riguarda la tecnologia.

Il volto doveva essere disponibile. Il materiale pubblico di Wu Yue è ovunque su internet: interviste, red carpet, clip delle serie. Venti minuti bastano per costruire una somiglianza che regge un ritaglio 9:16 sullo schermo di un telefono.

L'audio doveva essere vicino. Clonare una voce da qualche minuto di parlato pulito oggi è un prodotto di serie, non un progetto di ricerca. L'account ci ha abbinato la correzione del sincrono labiale e battute riscritte: è la filiera produttiva più economica possibile. Nessun attore, nessun set, nessun segretario di edizione.

E l'etichetta doveva essere ignorabile. Lo era. Una riga in corpo 8 nell'angolo di un video verticale, su una piattaforma la cui interfaccia copre già il terzo inferiore con sottotitoli e pulsanti, è funzionalmente invisibile. L'etichetta soddisfaceva un obbligo di trasparenza e non ha cambiato il comportamento di nessuno.

{{INLINE1}}

La filiera ha un listino

I giornalisti che sono andati a cercare la fonte hanno trovato qualcosa di più organizzato di qualche truffatore opportunistico. Negozi su grandi piattaforme di e-commerce e di seconda mano pubblicizzano apertamente la personalizzazione di video con IA, con preventivi da qualche centinaio a oltre mille yuan. Uno ha quotato 100 yuan per un video di endorsement di trenta secondi con un personaggio famoso e ha spiegato come far crescere un account da 10,000 follower in una settimana.

I venditori erano incoerenti sulla legalità, in un modo rivelatore. Alcuni rifiutavano del tutto i lavori con personaggi famosi, citando la violazione di diritti, e offrivano umani digitali generici. Altri dicevano che la parte tecnica è banale e che il difficile sono il testo e la trama. Alla domanda sui diritti, uno non ha risposto e ha detto di limitarsi a etichettarlo come contenuto IA.

Ecco il modello di business, in una frase. L'etichetta era intesa, correttamente, come un costo di conformità e non come una difesa legale. Il che significa che l'applicazione doveva avvenire a livello di account, dopo le vendite: esattamente quello che è successo, ed esattamente il motivo per cui succederà di nuovo il mese prossimo con un'altra faccia.

Cosa dice davvero la legge

Gli avvocati cinesi sono stati netti sulla questione dell'etichetta. Un'etichetta risponde alla domanda se questo l'ha fatto un'IA. Non risponde a se è autorizzato, né a se è vero. Il Codice civile protegge il diritto all'immagine della persona fisica, e la voce è protetta per rinvio. Usare l'immagine e la voce di qualcuno senza consenso per vendere qualcosa è contraffazione commerciale da manuale, e aggiungere «generato con IA» nell'angolo non crea alcuna esenzione.

Le corti hanno già costruito la regola. In un caso deciso sotto l'indirizzo della Corte suprema, una società ha preso le riprese di una conferenza pubblica, vi ha sovrapposto una voce sintetica molto vicina alle caratteristiche vocali della persona e ne ha fatto un video di endorsement. La corte ha ravvisato la violazione sia del diritto all'immagine sia degli interessi legati alla voce. Il fatto di non aver verificato l'autorizzazione del materiale è stato considerato negligenza, rendendo la società coobbligata. Risarcimento e spese sono ammontati a 120,000 yuan, più le scuse.

Il 7 settembre la Corte suprema ha pubblicato le sue Opinioni sul giudizio delle controversie legate all'IA, che trattano specificamente lo scambio di volti, la clonazione vocale e le ricostruzioni con IA di persone decedute. La direzione è coerente: l'asse è il consenso, non la trasparenza.

Il divario è la velocità di applicazione, ed è strutturale. Un video si produce in un pomeriggio, vende per due settimane e viene cancellato dopo una segnalazione. I ricavi sono incassati prima che chi ha titolo per agire lo venga a sapere.

Non è un caso di nicchia

La storia di Wu Yue è quella che è emersa, ma lo schema è più ampio. Un'altra attrice, Wen Zhengrong, ha trovato una diretta con IA che usava la sua immagine, ha affrontato il gestore ed è stata bloccata. Kenneth Fok ha raccontato che la sua voce e il suo aspetto erano stati estratti in video brevi, e che persino i suoi colleghi hanno guardato per un po' prima di capire. L'immagine di Jin Dong viene usata per colpire il pubblico più anziano, quello meno attrezzato per verificare.

Il filo comune è che nessuno di questi bersagli è oscuro. Sono abbastanza noti da vendere qualcosa e troppo distribuiti per controllare ogni clip. Una volta la fama era una difesa: un volto molto noto è difficile da falsificare. Adesso è una fornitura di materiale di addestramento.

Esiste una versione che peggiora prima di migliorare: gli stessi strumenti che fanno una pubblicità credibile con un famoso fanno un endorsement credibile di un influencer di fascia media, di un medico di quartiere o di un preside. Quelle persone non hanno accesso alla stampa né uffici legali, e il loro pubblico è più piccolo e quindi più fiducioso.

Cosa aiuterebbe davvero

Quattro cose, nessuna nuova, tutte poco glamour.

Rendere l'etichetta parte dell'immagine invece che del post. Un marchio visibile impresso nel fotogramma sopravvive a screenshot, ricaricamenti e alla catena di compressione. Una didascalia no.

Richiedere la verifica dell'identità al momento della monetizzazione, non della pubblicazione. Il collo di bottiglia che conta non è caricare un deepfake, è collegare un metodo di pagamento e incassare. È una superficie molto più piccola da controllare, ed è lì che i 500,000 yuan hanno cambiato mano.

Dare a chi subisce l'uso del proprio volto una corsia veloce. Non un modulo di segnalazione generico che finisce in coda, ma un canale verificato dove una figura pubblica può segnalare un endorsement sintetico e farlo congelare in poche ore. Alcune piattaforme ne hanno pezzi. Poche lo hanno abbastanza veloce da contare in una finestra di vendita di due settimane.

E smettere di trattare l'etichetta come la risposta. La trasparenza è una cortesia verso lo spettatore. Il consenso è la regola vera, e nessuna quantità di testo nell'angolo lo sostituisce.

La parte scomoda

Settemila persone hanno comprato un siero perché un volto che riconoscevano diceva che era buono. L'economia di tutto questo non è sottile: un falso convincente di un volto affidabile rende più della maggior parte della pubblicità legittima, e costa 100 yuan farlo.

Il che significa che la domanda non è se le piattaforme riescano a prendere ogni endorsement sintetico. Non ci riescono, e i laboratori lo hanno detto. La domanda è se il costo di essere scoperti cresca più in fretta del costo di fabbricarne uno. Adesso no, e l'etichetta nell'angolo è una misura piuttosto buona di quanto seriamente qualcuno se lo aspettasse.