← Torna al blog
Aicirca 6 min di lettura

Dopo 47.000 contenuti e 3961 account, contro i falsi con l'IA manca il blocco in pubblicazione

Pubblicato 8 nov 2026
Dopo 47.000 contenuti e 3961 account, contro i falsi con l'IA manca il blocco in pubblicazione

Il 6 novembre l'autorità per il cyberspazio ha reso pubblico il bilancio di un intervento concentrato: oltre 47.000 contenuti illeciti rimossi e 3961 account sanzionati. L'oggetto del provvedimento è indicato con precisione: account che sfruttano la tecnologia IA per impersonare personaggi pubblici noti, vendere merci, raccogliere follower e trarre in inganno gli utenti.

Il testo individua quattro casi. I nomi degli account sono oscurati con gli asterischi, ma la distribuzione sulle piattaforme è chiara. Su WeChat "花\*\*记", "时\*\*叙", "秀\*\*8"; su Douyin "微\*\*天", "S\*\*物"; su Xiaohongshu "小\*\*C", "瓦\*\*款". Facevano questo: replicavano senza autorizzazione il volto di personaggi famosi, sintetizzavano la loro voce oppure prendevano le foto dei familiari per promuovere prodotti. Su WeChat "山\*\*话" e "旧\*\*故" hanno usato effetti IA per inventare la voce secondo cui un certo personaggio pubblico soffriva di Alzheimer. Su Douyin "才\*\*河", su Xiaohongshu "秋\*", su Bilibili "老\*\*迷", su Kuaishou "云\*" si spacciavano per la persona stessa, parlavano in prima persona, raccontavano esperienze e infilavano frasi emotive per portare gente al pulsante segui. Su Kuaishou "康\*" generava balletti volgari e scene di intimità, e con quello raccoglieva follower per poi monetizzare.

La spinta commerciale delle quattro categorie è molto diversa. La seconda e la terza vogliono traffico, la prima e la quarta finiscono in una transazione. E nella prima c'è un dettaglio che merita un discorso a parte: l'uso di ritratti e varianti d'immagine dei familiari dei personaggi pubblici. Questa strada aggira il problema del materiale del diretto interessato, che è difficile da ottenere. Basta una foto di famiglia e uno scambio di volto per montare un video di vendita che sembra credibile.

La sanzione colpisce l'account, il problema nasce prima

Il testo dice sanzionare gli account, non rimuovere un video. La differenza non è piccola. Un singolo contenuto si ricarica, un account chiuso taglia il canale degli incassi e la riserva di follower. Sul piano dell'efficacia, è il taglio che fa più male.

Però la sanzione arriva dopo. Il commento che ha accompagnato la messa in onda CCTV, Xinwen Lianbo, ha messo in fila i quattro compiti delle piattaforme: riconoscere presto, avvisare presto, bloccare presto, ripulire presto. Dei quattro presto, i primi tre stanno prima della pubblicazione.

Il nodo è che il costo di generare un falso con l'IA è ormai così basso da permettere tentativi in serie, mentre riconoscerlo resta caro. Un video falso da 15 secondi esce in pochi minuti con strumenti pronti; un revisore umano ha bisogno di decine di secondi prima di azzardare un giudizio, e il controllo automatico deve fare i conti con compressione, ritagli e riprese dallo schermo. Oggi le curve di costo del generare e del riconoscere vanno in direzioni opposte.

Le Misure per l'etichettatura dei contenuti generati e sintetici con IA sono in vigore dal 1 settembre 2025. Le hanno firmate quattro amministrazioni e chiedono due livelli: marchio visibile e marchio invisibile. Il visibile è l'avviso che l'utente vede, l'invisibile è la traccia nei metadati del file. In un flusso di pubblicazione normale il sistema funziona. Il punto è che un account malevolo non passa dal flusso normale: i metadati si cancellano, il marchio visibile si taglia, l'immagine si rifilma.

Quindi ciò che una piattaforma può davvero afferrare non è la filigrana, è il confronto tra persone e materiali. Volti e voci dei personaggi pubblici sono un insieme piccolo ed enumerabile. Confrontare con un elenco noto è molto più realistico, tecnicamente, che stabilire se un video è stato generato dall'IA. Ed è qui che la prevenzione diventa operativa: fermare una volta in pubblicazione costa meno che inseguire mille contenuti dopo.

Una mano regge uno smartphone con un video in cui compare il volto di una persona nota e un pulsante di riproduzione.

La magistratura ha già spostato l'onere della prova

Il caso della doppiatrice al Primo Tribunale Popolare Intermedio di Shanghai, il 2 novembre, ha mandato un segnale molto concreto. Su 28 indicatori acustici di formanti, 24 restavano sotto il 10 per cento di scostamento dalla voce reale, e 16 di questi sotto il 5,36 per cento; abbastanza simile e molto simile insieme facevano il 90 per cento. Il tribunale ha condannato il gestore della piattaforma a pagare 50.000 yuan.

La parte più rilevante è come è stata distribuita la prova. Al titolare del diritto basta dimostrare due cose: che esisteva un canale ragionevole per ottenere la sua voce e che la voce sintetica gli somiglia molto. Con questo la prova iniziale è chiusa. Da lì in poi tocca alla piattaforma dimostrare che i dati di addestramento sono di provenienza lecita o che la voce sintetica non ha nulla a che vedere con la ricorrente. La sentenza spiega il senso della regola senza giri di parole: rispondere al problema strutturale della prova in mano a una sola parte nei casi di IA e impedire che la piattaforma si sottragga con scuse tipo scatola nera tecnologica o dipendente andato via.

Questa impostazione corrisponde all'articolo 4 dei Pareri della Corte Suprema del Popolo sulla trattazione dei casi relativi all'intelligenza artificiale del 7 settembre 2026. Portata su questa tornata di controlli, la logica è identica: chi tiene i dati deve poter mostrare da dove arrivano.

Per la piattaforma, in concreto: traccia della provenienza del corpus di addestramento, documenti delle licenze sui materiali, registri dei passaggi di verifica. In tempo normale sembrano carte di conformità; quando scoppia il caso sono l'unico materiale che dimostra l'assenza di responsabilità. Il valore della traccia non si vede nella routine, si vede il giorno della citazione.

Per venditori e creator la conformità si riduce a tre punti

Il primo è la catena delle autorizzazioni. Usare volto e voce di una persona reale, che il materiale sia girato da noi o fornito da un partner, richiede un perimetro di licenza messo per iscritto. Nel caso di Shanghai la piattaforma si è difesa dicendo che non sapeva che l'altra parte fosse una doppiatrice; il tribunale non ha accolto la tesi, perché non sapere non equivale a poter usare.

Il secondo è l'etichettatura. Marchio visibile nel fotogramma, marchio invisibile nel file. Oggi è un obbligo, non una scelta. Molte squadre lo trovano antiestetico e lo fanno minuscolo; nella prassi sanzionatoria è molto probabile che venga letto come inadempimento.

Il terzo è la traccia della provenienza dei materiali. È il punto che si salta più spesso ed è il più letale in una controversia. Da dove arriva, chi lo ha fornito, quali usi copre la licenza: meglio archiviarlo insieme al video finale, non sparpagliato nelle chat di tre persone.

Questa tornata non è isolata

L'ultima frase del provvedimento dice che nella fase successiva i controlli saranno intensificati e che si consoliderà ulteriormente la responsabilità principale di siti e piattaforme. Formule del genere ricorrono spesso nei documenti sull'IA degli ultimi due anni. Puntano a una routine stabile, non a una campagna.

Per chi fa business con i contenuti IA il criterio è diventato più semplice: so dire chi è la persona nell'immagine, da dove viene l'autorizzazione, se il contenuto è etichettato? Chi risponde a tutte e tre non deve temere che un giorno l'account sparisca. Chi non risponde accumula rischio tanto più in fretta quanto più cresce.

Per le piattaforme il terreno della competizione si sposta da riusciamo a generarlo a riusciamo a fermarlo nel secondo della pubblicazione. I 3961 account sono il risultato di questa tornata. Quello della prossima probabilmente non conterà quante sanzioni sono state inflitte, ma quante sono state bloccate.

Articoli correlati