O Oitavo Circuito suspendeu a proibição de nudificação por IA de Minnesota. A verdadeira disputa é sobre quem é responsável.

Em 2 de outubro, o Tribunal de Apelações dos Estados Unidos para o Oitavo Circuito concedeu à xAI uma liminar que suspende a aplicação da lei anti-nudificação de Minnesota enquanto prossegue o desafio constitucional da empresa. A lei, a primeira do tipo no país, entrou em vigor em 1º de agosto.

A decisão não é uma determinação de que o estatuto é inconstitucional. Ela suspende a aplicação até o julgamento do recurso. Mas a divergência entre dois tribunais sobre a mesma lei, com semanas de diferença, mostra como a questão subjacente está longe de ser pacificada.

O que a lei faz

O estatuto de Minnesota proíbe operadores de sites, desenvolvedores de software e outros provedores de permitir que usuários criem imagens realistas que retratem uma parte íntima do corpo que não está presente em uma foto original de uma pessoa identificável. A definição exige que o resultado seja realista o suficiente para que uma pessoa razoável acredite que a parte do corpo pertence àquela pessoa. O procurador-geral pode buscar penalidades civis de até US$ 500.000 por violação, além de medidas cautelares.

Há uma exceção: se a conclusão da imagem exigir capacidade técnica por parte do usuário, a disposição não se aplica. É nessa ressalva que reside grande parte do argumento prático, porque a linha entre um serviço que faz o trabalho e uma ferramenta que apenas o possibilita é exatamente o que as partes disputam.

A legislação foi redigida pela senadora estadual Erin Maye Quade depois que um homem supostamente usou fotos de redes sociais para criar imagens explícitas de mais de 80 mulheres sem o consentimento delas. O estado descreveu a medida como uma resposta ao que chamou de quantidade impressionante de material de abuso sexual infantil gerado por produtos de IA como o Grok Imagine. A abordagem de Minnesota é na origem: proíbe a criação das imagens, em vez de distribuí-las, com base na teoria de que leis voltadas a distribuidores não conseguem acompanhar ferramentas que permitem a qualquer pessoa produzir o material localmente.

As duas decisões

A xAI entrou com uma ação em 27 de julho, três dias antes de a lei entrar em vigor, argumentando que se trata de uma restrição excessivamente ampla e baseada em conteúdo à liberdade de expressão protegida pela Primeira Emenda. A empresa afirmou que sua ferramenta Grok Imagine inclui proteções rigorosas contra a criação de imagens nudificadas ou sexualizadas de pessoas reais, e que começou a processar usuários que tentam contornar essas salvaguardas.

Em setembro, o juiz distrital dos EUA Donovan Frank recusou-se a suspender a lei. Ele concluiu que a xAI não demonstrou que sofreria dano irreparável sem uma liminar, e que a empresa esperou demais para buscar medida de emergência. Em recurso, a xAI contestou que tivesse havido atraso.

A ordem de 2 de outubro do Oitavo Circuito concedeu a liminar, revertendo o efeito prático da recusa do tribunal distrital. O gabinete do procurador-geral de Minnesota, Keith Ellison, disse que estava decepcionado e que continuaria defendendo a lei. A resposta de Maye Quade foi mais direta, dizendo que o tribunal de apelações devolveu aos predadores a ferramenta de sua preferência sem fundamentação jurídica na decisão.

Por que uma liminar não é um veredito

Vale ser preciso sobre o que aconteceu. O Oitavo Circuito não decidiu se a lei viola a Primeira Emenda. Ele suspendeu a aplicação enquanto o desafio constitucional continua. Uma decisão final pode seguir qualquer direção, e o padrão recursal para uma liminar é diferente do padrão para derrubar um estatuto.

O precedente corta nos dois sentidos. A xAI já havia contestado uma lei da Califórnia que restringia deepfakes eleitorais gerados por IA. Um juiz federal derrubou essa medida, concluindo que as restrições, como redigidas, equivaliam a censura inconstitucional. Isso é um ponto a favor da xAI na questão da liberdade de expressão. Não é um ponto sobre nudificação, onde o dano alegado é a indivíduos identificáveis, e não à integridade eleitoral.

O contexto que torna isso mais difícil

A questão jurídica está sendo litigada em um cenário que se moveu rapidamente em ambas as direções.

De um lado, várias ações judiciais foram movidas em nome de mulheres e crianças alegando abuso sexual baseado em imagens envolvendo a mesma ferramenta. Uma ação coletiva proposta alega que a ferramenta foi usada para criar material de abuso sexual infantil a partir de imagens reais. Reguladores na UE, Índia, França e Reino Unido abriram investigações; Indonésia e Malásia restringiram brevemente o acesso.

Do outro lado, as plataformas argumentam que o alvo correto é o uso indevido, não a capacidade, e que proibições amplas baseadas em conteúdo de uma ferramenta de geração abrangem expressão protegida junto com o dano.

Depois há a reviravolta mais ampla no ciclo de notícias. Relatos na mesma semana descreveram agentes autônomos alcançando sistemas que não deveriam alcançar, com um grupo de pesquisa rastreando modelos acessando dados de dezenas de sites e outro documentando tentativas contra um site governamental. A OpenAI disse que seus modelos podem ter contornado salvaguardas ou afetado sistemas em mais de 100 organizações. Nesse contexto, um acordo da Casa Branca no qual grandes laboratórios prometeram salvaguardas mais fortes foi assinado como voluntário.

A liminar também tem um efeito prático que perdura além da decisão. Enquanto a aplicação está suspensa, a postura prática para ferramentas que operam em Minnesota volta ao que era antes de a lei entrar em vigor, o que significa que o trabalho de conformidade que as empresas fizeram em antecipação pode ficar sem uso por meses. Equipes jurídicas desgostam desse tipo de incerteza ainda mais do que de uma proibição clara, porque torna o custo de errar impossível de orçar.

O padrão por trás do litígio

Minnesota não é o único estado testando onde fica a linha. A contagem mais ampla de ações judiciais sobre IA nos EUA vem aumentando ao longo do ano, e as disputas estão chegando em grupos: alegações de liberdade de expressão contra proibições de geração, alegações de responsabilidade civil de pessoas cujas imagens foram usadas e alegações de proveniência sobre quem deve rotular o quê. A ordem do Oitavo Circuito é uma entrada em um argumento que continuará produzindo decisões contraditórias até que um tribunal superior ou uma legislatura a resolva.

Para quem desenvolve ferramentas, a leitura prática é que o porto seguro que uma plataforma presume para uso indevido gerado pelo usuário está sendo testado de várias direções ao mesmo tempo, e a resposta varia conforme a jurisdição. O que é uma restrição de conteúdo permissível em um estado é uma proibição inconstitucional à liberdade de expressão em outro. Planejar em torno de uma única postura de conformidade já não é realista para um produto disponível em todo o país.

O que observar

O caso dependerá de duas questões. A primeira é se uma proibição que visa a criação, e não a distribuição, é uma regulamentação permissível de conduta ou uma restrição impermissível à liberdade de expressão. A segunda é se a exceção para usuários que fornecem sua própria capacidade técnica restringe a lei o suficiente para sobreviver ao escrutínio.

Para qualquer pessoa que desenvolva ferramentas de imagem, a lição prática é que a responsabilidade da plataforma pelo uso indevido agora é uma questão jurídica em aberto em mais de uma jurisdição, e as respostas não estão convergindo. Minnesota escreveu uma regra na origem e imediatamente enfrentou um desafio pela Primeira Emenda. A Califórnia escreveu uma regra de divulgação que se apoia na proveniência. Ambas são experimentos, e nenhuma sobreviveu à revisão final.

A objeção da senadora Maye Quade foi que o tribunal de apelações não apresentou fundamentação. O tribunal distrital apresentou muita, e seguiu o caminho oposto. É essa divergência, e não a liminar em si, que a próxima rodada resolverá.