100 yuans por trinta segundos de um rosto que não é seu

Uma atriz acordou com um vídeo dela mesma recomendando um sérum de colágeno que nunca tinha usado. A sincronia labial batia. A voz era próxima o suficiente para que pessoas que conheciam o trabalho dela não questionassem. No canto, em letra pequena, havia uma linha: este conteúdo inclui material gerado por IA.

Em 19 de outubro, a conta já não existia, banida permanentemente. Antes de sair do ar, o sérum tinha vendido mais de 7,000 unidades em trinta dias, cerca de 500,000 yuans em receita. A atriz, Wu Yue, falou publicamente no Weibo perguntando quantas pessoas tinham sido enganadas.

O rótulo não salvou ninguém. Estava lá, legível se você olhasse, e 7,000 pessoas compraram um produto de skincare mesmo assim. Vale parar um segundo nisso.

Um vídeo rotulado funcionou do mesmo jeito

Três coisas precisavam ser verdadeiras para isso funcionar, e só uma tem a ver com tecnologia.

O rosto precisava estar disponível. O material público de Wu Yue está espalhado pela internet: entrevistas, tapetes vermelhos, trechos de séries. Vinte minutos bastam para construir uma semelhança que sobrevive a um recorte 9:16 na tela do celular.

O áudio precisava ser próximo. Clonar voz a partir de alguns minutos de fala limpa hoje é produto de prateleira, não projeto de pesquisa. A conta combinou isso com ajuste de sincronia labial e falas reescritas: é a pilha de produção mais barata possível. Sem ator, sem cenário, sem continuísta.

E o rótulo precisava ser ignorável. Era. Uma linha em corpo 8 no canto de um vídeo vertical, numa plataforma cuja interface já cobre o terço inferior com legendas e botões, é funcionalmente invisível. O rótulo cumpriu uma exigência de transparência e não mudou o comportamento de ninguém.

{{INLINE1}}

A cadeia de produção tem tabela de preços

Repórteres que foram atrás da origem encontraram algo mais organizado do que alguns golpistas oportunistas. Lojas em grandes plataformas de e-commerce e de usados anunciam abertamente customização de vídeo com IA, com orçamentos de algumas centenas a mais de mil yuans. Uma cotou 100 yuans por um vídeo de endosso de trinta segundos com celebridade e descreveu como crescer uma conta de 10,000 seguidores em uma semana.

Os vendedores eram inconsistentes sobre legalidade de um jeito revelador. Alguns recusavam de cara trabalhos com celebridades, alegando violação de direitos, e ofereciam humanos digitais genéricos. Outros diziam que a parte técnica era trivial e que o difícil era o texto e o enredo. Perguntado sobre direitos, um não respondeu e disse para simplesmente rotular como conteúdo de IA.

Aí está o modelo de negócio, em uma frase. O rótulo era entendido, corretamente, como custo de conformidade e não como defesa jurídica. O que significa que a aplicação tinha que acontecer no nível da conta, depois das vendas: exatamente o que aconteceu, e exatamente por que vai acontecer de novo no mês que vem com outro rosto.

O que a lei realmente diz

Advogados chineses foram diretos sobre a questão do rótulo. Um rótulo responde se isso foi feito por IA. Não responde se foi autorizado nem se é verdade. O Código Civil protege o direito à imagem da pessoa natural, e a voz é protegida por remissão. Usar a imagem e a voz de alguém sem consentimento para vender algo é violação comercial de manual, e colocar «gerado por IA» no canto não cria isenção.

Os tribunais já construíram a regra. Em um caso julgado sob a orientação do Supremo Tribunal, uma empresa pegou imagens de uma palestra pública, sobrepôs uma voz sintética muito próxima das características vocais da pessoa e fez um vídeo de endosso. A corte reconheceu violação tanto do direito à imagem quanto dos interesses ligados à voz. Não verificar se o material estava autorizado foi considerado negligência, o que a tornou coautora da violação. Indenização e custas somaram 120,000 yuans, mais um pedido de desculpas.

Em 7 de setembro, o Supremo Tribunal publicou seus Pareceres sobre o julgamento de disputas relacionadas à IA, que tratam especificamente de troca de rosto, clonagem de voz e recriações com IA de pessoas falecidas. A direção é consistente: o eixo é o consentimento, não a transparência.

A lacuna é a velocidade de aplicação, e ela é estrutural. Um vídeo é produzido em uma tarde, vende por duas semanas e é apagado depois de uma denúncia. A receita é recolhida antes de alguém com legitimidade para agir ficar sabendo.

Não é um caso periférico

A história de Wu Yue é a que furou a bolha, mas o padrão é mais amplo. Outra atriz, Wen Zhengrong, encontrou uma live com IA usando sua imagem, confrontou o operador e foi bloqueada. Kenneth Fok disse que sua voz e aparência foram extraídas em vídeos curtos, e que até os próprios colegas assistiram por um tempo antes de perceber. A imagem de Jin Dong vem sendo usada para atingir públicos mais velhos, os menos equipados para verificar.

O fio comum é que nenhum desses alvos é obscuro. São conhecidos o bastante para vender algo e distribuídos demais para policiar cada clipe. A fama costumava ser uma defesa: um rosto muito conhecido é difícil de falsificar. Agora é um estoque de material de treinamento.

Existe uma versão que piora antes de melhorar: as mesmas ferramentas que fazem um anúncio convincente com famoso fazem um endosso convincente de um influenciador médio, de um médico de bairro ou de um diretor de escola. Essas pessoas não têm acesso à imprensa nem equipe jurídica, e seu público é menor e, por isso, mais confiante.

O que realmente ajudaria

Quatro coisas, nenhuma inédita, todas sem glamour.

Fazer o rótulo parte da imagem, não do post. Uma marca visível gravada no quadro sobrevive a prints, reuploads e à cadeia de compressão. Uma legenda não.

Exigir verificação de identidade no ponto da monetização, não no da publicação. O gargalo que importa não é subir um deepfake, é vincular um meio de pagamento e receber. É uma superfície muito menor para policiar, e é ali que os 500,000 yuans trocaram de mãos.

Dar à pessoa cujo rosto é usado uma via rápida. Não um formulário genérico de denúncia que cai numa fila, mas um canal verificado onde uma figura pública possa sinalizar um endosso sintético e congelá-lo em horas. Algumas plataformas têm pedaços disso. Poucas têm rápido o bastante para fazer diferença numa janela de vendas de duas semanas.

E parar de tratar o rótulo como a resposta. Transparência é uma cortesia com o espectador. Consentimento é a regra de fato, e nenhuma quantidade de texto no canto substitui isso.

A parte desconfortável

Sete mil pessoas compraram um sérum porque um rosto que reconheciam disse que era bom. A economia disso não é sutil: uma falsificação convincente de um rosto confiável rende mais que a maior parte da publicidade legítima, e custa 100 yuans para fazer.

O que significa que a pergunta não é se as plataformas conseguem pegar cada endosso sintético. Não conseguem, e os laboratórios já disseram isso. A pergunta é se o custo de ser pego sobe mais rápido que o custo de fabricar um. Hoje não sobe, e o rótulo no canto é uma medida bastante boa de quanto alguém esperava que isso fosse levado a sério.