A reação contra deepfakes está se globalizando, e não se trata mais de uma única empresa

Por um tempo, o problema dos deepfakes pareceu uma série de incidentes isolados. Um político aqui, um ator ali, uma ferramenta lançada com salvaguardas frouxas e depois corrigida. O que mudou no último mês é que reguladores e tribunais ao redor do mundo deixaram de tratar esses casos como pontuais e começaram a construir uma máquina jurídica compartilhada em torno de semelhança, consentimento e responsabilidade.
A União Europeia foi a primeira a sair na frente. A partir de 2 de agosto, o AI Act da UE exige que qualquer imagem, áudio ou texto gerado por IA que pareça autêntico seja visivelmente rotulado, com uma marca d'água revelando sua origem sintética. As empresas enfrentam multas de até 15 milhões de euros ou 3% do faturamento global. Os sistemas existentes têm quatro meses para se adequar. É a primeira grande jurisdição a tornar a rotulagem um requisito obrigatório, e não um compromisso voluntário, e ela se aplica também a textos de interesse público que não passaram por revisão editorial humana.
A escala do aparato de fiscalização da UE merece destaque. O SynthID do Google já colocou marcas d'água invisíveis em mais de 100 bilhões de imagens e no equivalente a 60.000 anos de áudio. Mais de 180 organizações assinaram o código de prática voluntário da Comissão. As regras de rotulagem são o respaldo legal para esse esforço voluntário e dão aos reguladores uma alavanca concreta que eles não tinham antes.
A Índia está se movendo em outro eixo. A Suprema Corte suspendeu os processos no Tribunal Superior de Gujarat e está avaliando se consolida nacionalmente a litigância sobre deepfakes, com uma notificação retornável em 5 de outubro. A pressão pela centralização vem de uma preocupação que parece burocrática, mas é na verdade prática: se cada tribunal superior define “deepfake” de forma diferente, uma plataforma acaba cumprindo as regras de Gujarat enquanto viola as de Bombaim. Enquanto isso, o Tribunal Superior de Bombaim restringiu nesta semana o uso não autorizado do nome, da imagem e da voz da atriz Samantha Ruth Prabhu, ordenando a remoção de conteúdo gerado por IA e modificado e constatando uma violação prima facie de seus direitos de personalidade e de publicidade. Ela é uma entre 18 rés — plataformas, desenvolvedores de IA e empresas de mídia — nomeadas no processo. O tribunal fundamentou a decisão em direitos constitucionais, enquadrando seus direitos de publicidade e personalidade como protegidos tanto pelo direito à livre expressão quanto pelo direito à vida, à privacidade e à dignidade.
Os Estados Unidos estão avançando por seus próprios canais. O No Fakes Act, que criaria um direito federal de publicidade sobre réplicas digitais da imagem, semelhança e voz de uma pessoa, foi reintroduzido e relatado favoravelmente pelo Comitê Judiciário do Senado em junho. O SAG-AFTRA tem pressionado fortemente, e Hollywood é o caso teste. Um teaser do próximo filme As Deep as the Grave apresentava um Val Kilmer gerado por IA, que morreu em 2025, dizendo uma fala para um ator vivo. Kilmer havia sido escalado antes de sua morte e apoiado o trabalho de voz com IA, mas a questão mais ampla — se um estúdio pode ressuscitar a semelhança de um ator falecido sem atrito legal — é exatamente o que o No Fakes Act pretende responder.
O fio condutor de tudo isso é que a lei está convergindo para um princípio que a indústria passou dois anos resistindo: o rosto e a voz de uma pessoa não são matéria-prima gratuita. A UE trata a semelhança como algo que precisa ser rotulado. Os tribunais indianos a tratam como um direito de personalidade. Os EUA debatem um direito federal de publicidade. Nenhum desses pontos está resolvido ainda, mas a direção é consistente e não é amigável ao “lançar rápido e corrigir depois”.
Há uma tensão real aqui que grupos de liberdades civis sinalizaram. A ACLU, a EFF e o Center for Democracy and Technology alertaram em uma carta de junho que um direito amplo de publicidade poderia criar um “veto do arruaceiro”, permitindo que pessoas poderosas que não gostam de ser zombadas exijam a remoção de sátira e comentário. Essa preocupação tem mérito. A linha entre proteger uma vítima e armar um censor é genuinamente tênue, e as leis sendo redigidas agora determinarão de que lado ela ficará. Um direito muito estreito falha com as vítimas. Um direito muito amplo entrega aos poderosos uma arma contra a crítica.
Há também uma dimensão técnica em torno da qual a conversa jurídica continua girando. A distinção entre modelos que incorporam segurança durante o treinamento e modelos que acoplam um filtro após a geração tornou-se juridicamente relevante. Uma vez que uma imagem existe, um filtro pode falhar, o arquivo pode se espalhar, e o dano já aconteceu. Os reguladores notaram essa distinção, e ela está começando a aparecer na forma como a responsabilidade é atribuída. A empresa que gerou primeiro e moderou depois agora carrega mais risco do que aquela que incorporou a restrição ao próprio modelo.
Para quem observa esse espaço, o sinal a acompanhar não é o próximo lançamento de modelo. É a próxima decisão judicial, a próxima orientação de regulador, a próxima ordem de remoção. Esses são os insumos que moldarão o que as ferramentas podem fazer, e eles estão chegando a um ritmo ao qual a indústria não está acostumada. A tecnologia não está mais à frente da lei; a lei está alcançando, e a lacuna está fechando mais rápido do que as equipes de segurança conseguem reagir.
O que distingue esta onda de uma aplicação mais silenciosa anterior é a forma como os casos estão se acumulando ao mesmo tempo, em jurisdições não relacionadas, sobre o mesmo princípio. Não é mais um regulador reagindo a um escândalo. É uma convergência coordenada de sistemas jurídicos que não se coordenam entre si, o que é um sinal mais forte do que qualquer decisão judicial isolada poderia ser. Quando a UE, a Índia e os EUA chegam todos a “a semelhança de uma pessoa é protegida” nas mesmas poucas semanas, a indústria precisa tratar isso como a nova linha de base, não como uma série de exceções.
Há também um fio condutor no argumento técnico. Um detalhe recorrente nesses casos é se o dano poderia ter sido evitado por design, em vez de por moderação depois do fato. Os modelos que entraram em apuros são os que geraram primeiro e filtraram depois. Os que são apontados como responsáveis são os que incorporaram restrições durante o treinamento e fornecem metadados de proveniência por padrão. Essa distinção, entre segurança integrada e segurança acoplada, está se tornando a linha divisória jurídica, e dá a cada laboratório uma lista concreta do que “fazer certo” significa agora.
Para criadores e desenvolvedores de ferramentas, a mudança prática já chegou. As perguntas que antes eram opcionais — este modelo lida com solicitações direcionadas a uma pessoa real, ele incorpora metadados de proveniência, existe um caminho real de denúncia — agora são a diferença entre um produto defensável e uma responsabilidade legal. Deepfakes não são mais um problema de nicho a ser tratado pela equipe de confiança e segurança. São uma questão de conformidade com multas associadas, em várias jurisdições, agora.
O resultado mais provável não é que a mídia generativa seja eliminada. É que o custo de usar o rosto de alguém sem consentimento seja precificado, e as ferramentas que sobrevivem são as que incorporaram consentimento e proveniência desde o início, em vez de acoplá-los depois do escândalo. Isso é uma mudança real, e está acontecendo mais rápido do que a maioria das pessoas na indústria esperava. A janela para lançar uma ferramenta de imagem ou vídeo sem pensar no abuso está se fechando, e fechando em um cronograma global.
Artigos relacionados
1% das empresas paga 80% da conta de IA — e esse grupo parou de crescer
O índice da Ramp mostra consumo de IA crescendo mais que receita. O motivo é simples: 1% das empresas concentra 80% do gasto, e essa coorte ficou abaixo do pico do verão.
Claude agora lê seus extratos bancários, e a Anthropic fez questão de não lhe dar mãos
O Claude ganhou um hub de finanças pessoais nos Estados Unidos. Ele lê 24 meses de transações e explica seus gastos, mas não move um centavo — e a Anthropic trata isso como a tese do produto.
A Adobe parou de pedir que profissionais de marketing abrissem a Adobe
Por uma década, a estratégia foi ser dono da interface. A Adobe acabou de apostar no oposto.
A CrowdStrike lançou um kill switch para agentes de IA. A parte difícil é saber o que encerrar.
Um kill switch transforma um palpite em algo aplicável. A aplicação exige uma lista, e a lista é justamente a parte que ninguém tem.