← Voltar ao blog
Aicerca de 6 min de leitura

Depois de 47 mil conteúdos e 3961 contas, falta o bloqueio na hora de publicar

Publicado 8 de nov. de 2026
Depois de 47 mil conteúdos e 3961 contas, falta o bloqueio na hora de publicar

Em 6 de novembro, o órgão de administração do ciberespaço divulgou o balanço de uma operação concentrada: mais de 47 mil conteúdos irregulares removidos e 3961 contas penalizadas. O alvo do comunicado está descrito com precisão: contas que usam recursos de IA para se passar por personalidades conhecidas, vender produtos, angariar seguidores e enganar internautas.

O texto lista quatro situações. Os nomes das contas aparecem com asteriscos, mas a distribuição por plataforma é nítida. No WeChat, "花\*\*记", "时\*\*叙" e "秀\*\*8"; no Douyin, "微\*\*天" e "S\*\*物"; no Xiaohongshu, "小\*\*C" e "瓦\*\*款". O que faziam: replicar sem autorização o rosto de famosos, sintetizar a voz deles ou pegar fotos de parentes para promover mercadorias. No WeChat, "山\*\*话" e "旧\*\*故" usaram efeitos de IA para inventar o boato de que determinada figura pública tinha Alzheimer. No Douyin, "才\*\*河"; no Xiaohongshu, "秋\*"; no Bilibili, "老\*\*迷"; no Kuaishou, "云\*": fingiam ser a própria pessoa, falavam em primeira pessoa, contavam histórias de vida e usavam frases emotivas para empurrar o público para o botão de seguir. No Kuaishou, "康\*" produzia dancinhas vulgares e cenas de intimidade, e com isso juntava seguidores para depois monetizar.

O motivo comercial dos quatro grupos varia muito. O segundo e o terceiro querem tráfego; o primeiro e o quarto terminam em venda. E no primeiro há um ponto que merece atenção separada: o uso de retratos e variações de imagem de familiares das personalidades. Esse atalho contorna a dificuldade de obter material da própria celebridade. Uma foto de família mais troca de rosto já produz um vídeo de vendas com aparência confiável.

A punição recai na conta, o problema está antes da publicação

O comunicado fala em penalizar contas, não em apagar um vídeo. A diferença é grande. Um conteúdo avulso volta ao ar; uma conta derrubada corta o caminho do dinheiro e o estoque de seguidores. Em termos de eficácia, o corte dói mais.

Só que a punição vem depois. O comentário exibido pela CCTV no telejornal Xinwen Lianbo colocou as quatro tarefas das plataformas em ordem: identificar cedo, alertar cedo, bloquear cedo e limpar cedo. Dos quatro cedo, os três primeiros acontecem antes da publicação.

O nó é a assimetria: gerar um deepfake ficou tão barato que dá para testar em lote, enquanto identificar continua caro. Um vídeo falso de 15 segundos sai em minutos com ferramentas prontas; um revisor humano leva dezenas de segundos para ousar decidir, e a revisão automática ainda apanha de compressão, corte e regravação pela tela. Hoje as curvas de custo de gerar e de detectar apontam para lados opostos.

As Medidas de rotulagem de conteúdo gerado e sintético por IA estão em vigor desde 1 de setembro de 2025. Foram publicadas por quatro órgãos e exigem duas camadas: marca visível e marca invisível. A visível é o aviso que o usuário vê; a invisível é a assinatura nos metadados do arquivo. O desenho funciona num fluxo normal de publicação. O problema é que conta maliciosa não segue fluxo normal: metadado se apaga, marca visível se corta, tela se refilma.

Então o que a plataforma consegue segurar de fato não é a marca d'água, é o cruzamento entre pessoas e material. Rostos e vozes de gente pública formam um conjunto pequeno e listável. Comparar com uma lista conhecida é bem mais viável, tecnicamente, do que julgar se um vídeo foi gerado por IA. É aí que a prevenção sai do discurso: barrar uma vez na publicação custa menos do que correr atrás de mil depois.

Uma mão segura um celular com um vídeo em que aparece o rosto de uma pessoa conhecida e um botão de play.

A Justiça já mudou o ônus da prova

O caso da dubladora no Primeiro Tribunal Popular Intermediário de Xangai, em 2 de novembro, deu um sinal bem concreto. De 28 indicadores acústicos de formantes, 24 ficaram com desvio abaixo de 10 por cento em relação à voz real, e 16 deles abaixo de 5,36 por cento; bastante parecida e muito parecida somavam 90 por cento. O tribunal condenou a operadora da plataforma a pagar 50 mil yuanes.

O mais importante é como a prova foi distribuída. Ao titular do direito basta demonstrar duas coisas: que havia canal razoável para obter sua voz e que a voz sintética se parece muito com a dele. Com isso a prova inicial está feita. Depois disso, cabe à plataforma provar que os dados de treino vieram de fonte legal ou que a voz sintética não tem relação com a autora. A sentença explica o sentido da regra sem meias palavras: responder ao problema estrutural da prova concentrada numa das partes nos casos de IA e evitar que a plataforma escape com desculpas como caixa preta tecnológica ou funcionário que saiu e não dá para confirmar.

Esse raciocínio corresponde ao artigo 4 das Opiniões do Supremo Tribunal Popular sobre o julgamento de casos envolvendo inteligência artificial, de 7 de setembro de 2026. Transportado para esta rodada de fiscalização, quer dizer o mesmo: quem detém os dados precisa conseguir mostrar de onde eles vieram.

Na prática, para a plataforma: registro da origem do corpus de treino, comprovante de licença do material, log das etapas de revisão. No dia a dia parecem papel de conformidade; quando o processo estoura, são o único material capaz de provar que não houve responsabilidade. O valor do registro não aparece na rotina, aparece no dia em que se vai a julgamento.

Para lojistas e criadores, a conformidade se resume a três itens

O primeiro é a cadeia de autorização. Usar rosto e voz de pessoa real, seja material próprio ou entregue pelo parceiro, exige escopo de licença que esteja no papel. No caso de Xangai, a plataforma alegou que não sabia que a outra parte era dubladora, e o tribunal não aceitou, porque não saber não significa poder usar.

O segundo é a rotulagem. Marca visível no quadro, marca invisível no arquivo. Hoje isso é exigência obrigatória, não opção. Muita equipe acha que o rótulo estraga a estética e deixa ele minúsculo; na fiscalização real isso tem boa chance de ser lido como irregularidade.

O terceiro é manter rastro da origem do material. É o item mais pulado e o mais fatal numa disputa. De onde veio, quem entregou, que usos a licença cobre: o ideal é arquivar junto com o vídeo final, e não espalhado no chat de três pessoas.

Esta rodada não é pontual

A última frase do comunicado diz que, na próxima etapa, a fiscalização será intensificada e que se vai consolidar ainda mais a responsabilidade principal dos sites e plataformas. Esse tipo de formulação aparece muito nos documentos sobre IA dos últimos dois anos. Aponta para rotina permanente, não para campanha.

Para quem ganha dinheiro com conteúdo de IA, o critério ficou mais simples: consigo dizer quem está na imagem, de onde veio a autorização e se o conteúdo está rotulado? Quem responde às três não precisa temer que a conta suma de um dia para o outro. Quem não responde acumula risco mais rápido quanto maior fica.

Para as plataformas, a disputa vai sair de dá para gerar para dá para barrar no segundo da publicação. As 3961 contas são o boletim desta rodada. O da próxima provavelmente não vai medir quantas foram punidas, e sim quantas foram barradas.

Artigos relacionados