Il contraccolpo dei deepfake diventa globale, e non riguarda più una sola azienda

Per un po', il problema dei deepfake è sembrato una serie di incidenti isolati. Un politico qua, un attore là, uno strumento rilasciato con protezioni allentate e poi corretto con una patch. Quello che è cambiato nell'ultimo mese è che autorità di regolamentazione e tribunali di tutto il mondo hanno smesso di trattarli come casi isolati e hanno iniziato a costruire un apparato giuridico condiviso intorno a sembianze, consenso e responsabilità.

L'Unione europea è stata la prima a partire. Dal 2 agosto, l'AI Act dell'UE impone che qualsiasi immagine, audio o testo generato dall'IA che appaia autentico sia etichettato in modo visibile, con una filigrana che ne riveli l'origine sintetica. Le aziende rischiano multe fino a 15 milioni di euro o al 3% del fatturato globale. I sistemi esistenti hanno quattro mesi per adeguarsi. È la prima grande giurisdizione a rendere l'etichettatura un obbligo vincolante anziché un impegno volontario, e si applica anche ai testi di interesse pubblico che non sono passati da una revisione editoriale umana.

La scala dell'apparato di enforcement dell'UE merita di essere sottolineata. SynthID di Google ha già apposto filigrane invisibili su più di 100 miliardi di immagini e sull'equivalente di 60.000 anni di audio. Oltre 180 organizzazioni hanno firmato il codice di condotta volontario della Commissione. Le regole sull'etichettatura sono la rete di sicurezza legale di quella spinta volontaria, e offrono ai regolatori una leva concreta che prima non avevano.

L'India si muove su un asse diverso. La Corte Suprema ha sospeso i procedimenti presso l'Alta Corte del Gujarat e sta valutando se accorpare a livello nazionale il contenzioso sui deepfake, con un termine di risposta fissato al 5 ottobre. La spinta alla centralizzazione nasce da una preoccupazione che sembra burocratica ma è in realtà pratica: se ogni alta corte definisce «deepfake» in modo diverso, una piattaforma finisce per rispettare le regole del Gujarat violando quelle di Bombay. Nel frattempo, questa settimana l'Alta Corte di Bombay ha vietato l'uso non autorizzato del nome, dell'immagine e della voce dell'attrice Samantha Ruth Prabhu, ordinando la rimozione di contenuti generati dall'IA e morphing e rilevando una violazione prima facie dei suoi diritti di personalità e di pubblicità. Tra le 18 parti citate nella causa figurano piattaforme, sviluppatori di IA e società media. La corte ha fondato la decisione su diritti costituzionali, inquadrando i suoi diritti di pubblicità e di personalità come tutelati sia dal diritto alla libera espressione sia dal diritto alla vita, alla privacy e alla dignità.

Gli Stati Uniti procedono attraverso i propri canali. Il No Fakes Act, che creerebbe un diritto federale di pubblicità sulle repliche digitali dell'immagine, delle sembianze e della voce di una persona, è stato ripresentato e licenziato con parere favorevole dalla Commissione Giustizia del Senato a giugno. SAG-AFTRA lo ha spinto con forza, e Hollywood è il caso di prova. Un teaser del prossimo film As Deep as the Grave mostrava un Val Kilmer generato dall'IA, morto nel 2025, che pronuncia una battuta rivolta a un attore in carne e ossa. Kilmer era stato scritturato prima della sua morte e aveva sostenuto il lavoro vocale con l'IA, ma la questione più ampia — se uno studio possa far rivivere le sembianze di un attore defunto senza attriti legali — è esattamente ciò a cui il No Fakes Act è pensato per rispondere.

Il filo conduttore di tutto questo è che il diritto sta convergendo su un principio a cui l'industria ha resistito per due anni: il volto e la voce di una persona non sono materia prima gratuita. L'UE tratta le sembianze come qualcosa che va etichettato. I tribunali indiani le trattano come un diritto della personalità. Gli Stati Uniti discutono un diritto federale di pubblicità. Nessuno di questi è ancora definito, ma la direzione è coerente e non è amichevole verso il «rilascia in fretta e correggi dopo».

C'è una tensione reale che i gruppi per le libertà civili hanno segnalato. L'ACLU, l'EFF e il Center for Democracy and Technology hanno avvertito in una lettera di giugno che un ampio diritto di pubblicità potrebbe creare un heckler's veto, permettendo a persone potenti a cui non piace essere derise di chiedere la rimozione di satire e commenti. La preoccupazione è fondata. Il confine tra proteggere una vittima e armare un censore è davvero sottile, e le leggi che vengono redatte ora determineranno da che parte cadrà. Un diritto troppo ristretto non tutela le vittime. Un diritto troppo ampio consegna ai potenti un'arma contro la critica.

C'è anche una dimensione tecnica attorno a cui la conversazione giuridica continua a girare. La distinzione tra modelli che integrano la sicurezza durante l'addestramento e modelli che aggiungono un filtro dopo la generazione è diventata giuridicamente rilevante. Una volta che un'immagine esiste, un filtro può fallire, il file può diffondersi, e il danno è già avvenuto. I regolatori hanno notato questa distinzione, e comincia a comparire nelle modalità di attribuzione della responsabilità. L'azienda che ha generato prima e moderato dopo porta ora più rischio di quella che ha incorporato il vincolo nel modello stesso.

Per chi osserva il settore, il segnale da seguire non è il prossimo rilascio di un modello. È la prossima sentenza, la prossima linea guida di un regolatore, il prossimo ordine di rimozione. Sono questi gli input che plasmeranno ciò che gli strumenti sono autorizzati a fare, e arrivano a un ritmo a cui l'industria non è abituata. La tecnologia non è più davanti alla legge; la legge la sta raggiungendo, e il divario si chiude più in fretta di quanto i team di sicurezza possano reagire.

Ciò che distingue questa ondata dalle applicazioni più silenziose del passato è il modo in cui i casi si accumulano tutti insieme, in giurisdizioni non correlate, sullo stesso principio. Non è più un regolatore che reagisce a uno scandalo. È una convergenza coordinata di sistemi giuridici che non si coordinano tra loro, il che è un segnale più forte di qualsiasi singola sentenza. Quando UE, India e Stati Uniti arrivano tutti a «le sembianze di una persona sono protette» nell'arco delle stesse poche settimane, l'industria deve trattarlo come il nuovo standard di base, non come una serie di eccezioni.

C'è un filo conduttore anche nell'argomentazione tecnica. Un dettaglio ricorrente in questi casi è se il danno si sarebbe potuto prevenire per progettazione anziché per moderazione a posteriori. I modelli che sono finiti nei guai sono quelli che generavano prima e filtravano dopo. Quelli additati come responsabili sono quelli che hanno incorporato i vincoli durante l'addestramento e distribuiscono metadati di provenienza per impostazione predefinita. Questa distinzione, tra sicurezza integrata e sicurezza aggiunta a posteriori, sta diventando la linea di demarcazione giuridica, e offre a ogni laboratorio una checklist concreta di cosa significhi oggi «farlo bene».

Per i creatori e per chi costruisce strumenti, il cambiamento pratico è già qui. Le domande che un tempo erano facoltative — questo modello gestisce richieste rivolte a una persona reale? incorpora metadati di provenienza? esiste un percorso reale per le segnalazioni? — ora fanno la differenza tra un prodotto difendibile e un rischio legale. I deepfake non sono più un problema di nicchia da gestire con il team di trust and safety. Sono una questione di conformità con multe annesse, in più giurisdizioni, già adesso.

L'esito più probabile non è che i media generativi vengano uccisi. È che il costo di usare il volto di qualcuno senza consenso venga messo a prezzo, e gli strumenti che sopravvivono sono quelli che hanno integrato consenso e provenienza fin dall'inizio invece di aggiungerli dopo lo scandalo. È un cambiamento reale, e sta avvenendo più in fretta di quanto la maggior parte delle persone del settore si aspettasse. La finestra per rilasciare uno strumento di immagini o video senza aver riflettuto a fondo sugli abusi si sta chiudendo, e si chiude su un calendario globale.