Califórnia assinou 13 projetos de lei sobre IA em um único dia. SB 1000 eliminou o limite de um milhão de usuários.

Em 30 de setembro, o gabinete do governador Gavin Newsom anunciou que ele havia assinado 13 projetos de lei relacionados à IA abrangendo trabalhadores, saúde, transparência e deepfakes, além de uma ordem executiva. O mais consequente do pacote para quem desenvolve IA generativa é o SB 1000, que entra em vigor imediatamente por meio de uma cláusula de urgência.

O SB 1000 não inicia uma nova contagem de prazo. Ele altera a Lei de Transparência de IA da Califórnia, que já estava em vigor em 2 de agosto. A emenda muda quem essa lei vincula.

O que mudou

A definição de provedor coberto perde seu limite de um milhão de usuários médios mensais. Pela lei antiga, um desenvolvedor de um sistema de IA generativa publicamente acessível só se tornava provedor coberto depois de ultrapassar essa linha. O SB 1000 remove o limite por completo, de modo que um desenvolvedor de um produto de geração de imagem, áudio ou vídeo publicamente acessível e disponível a residentes da Califórnia é coberto independentemente do número de usuários.

Serviços menores de texto para imagem, serviços de clonagem de voz e serviços de geração de vídeo que ficavam abaixo da linha de um milhão de usuários no arcabouço anterior perdem essa posição e adquirem o conjunto completo de deveres. Para uma categoria de startups que presumia ser pequena demais para ser regulada, essa presunção acabou de expirar.

A segunda mudança substitui o dever gratuito de “ferramenta de detecção de IA” pelo dever de oferecer uma “ferramenta de verificação de divulgação”. Esse é um requisito de engenharia significativamente diferente. Detecção significa analisar um arquivo após o fato e tentar adivinhar se ele foi gerado. Verificação significa dar ao usuário uma ferramenta que ele possa executar contra um arquivo para checar sinais de proveniência que o provedor incorporou desde o início.

A emenda também alcança conteúdo que um sistema de IA generativa modificou materialmente, além do conteúdo que gerou do zero. Provedores que criaram ferramentas de detecção sob a lei anterior agora enfrentam trabalho para migrar da detecção a posteriori de seus próprios resultados para uma ferramenta de verificação que um terceiro possa operar.

As letras miúdas que importam

A análise da Comissão de Privacidade e Proteção ao Consumidor da Assembleia registra várias qualificações. Os deveres de divulgação latente vinculam apenas na medida do tecnicamente viável. Um provedor pode direcionar usuários a uma ferramenta de verificação de terceiros compatível em vez de construir a própria. Uma licença deve ser revogada em até 72 horas depois de o provedor constatar que um licenciado removeu a capacidade de divulgação latente.

Há exclusões para plataformas de videogame, televisão, streaming e cinema que veiculam apenas conteúdo que seus usuários não geraram. Sistemas cuja função principal é tecnologia assistiva ficam isentos até 1º de janeiro de 2029, com penalidade de US$ 50.000 por violação por alegar falsamente a isenção. A penalidade geral permanece em US$ 5.000.

Vale notar essa assimetria. Alegar uma isenção para a qual você não se qualifica é dez vezes mais caro do que uma violação comum, o que sugere que os reguladores esperam que a linha da isenção seja contestada.

O restante do pacote

Dois projetos de lei complementares assinados no mesmo dia ampliam o tema. O AB 2713 proíbe grandes plataformas online, definidas como aquelas com mais de dois milhões de usuários únicos mensais, de remover conscientemente dados de proveniência do sistema ou assinaturas digitais quando tecnicamente viável, a partir de 1º de janeiro de 2027. O SB 1111 torna uma réplica digital parte da voz ou imagem de uma pessoa sob a ação civil de direitos de imagem da Califórnia, e torna o uso de uma para se passar por alguém uma forma de falsa personificação sob uma nova seção do Código Penal.

No início de setembro, Newsom assinou o SB 813, que estabelece um arcabouço para organizações de verificação independentes que avaliam sistemas de IA quanto à conformidade legal, e o AB 1405, que cria o primeiro arcabouço de registro da Califórnia para auditores de IA. Juntos, eles apontam para um ecossistema formal de avaliação de IA por terceiros.

Nem tudo sobreviveu. Newsom vetou o AB 1542, o SB 903 e o AB 2575, citando dispositivos amplos demais e custo de implementação. Ele rejeitou o SB 903 em parte por definições imprecisas que poderiam ter dificultado o trabalho de profissionais de psicoterapia. Sobre o AB 1542, que teria substituído proteções reforçadas de consentimento para dados pessoais sensíveis por uma proibição categórica, ele questionou remover os consumidores do processo por completo e disse que os custos de implementação não foram contemplados no orçamento estadual.

Há também uma questão prática de timing. Os deveres de transparência se aplicam no momento da disponibilização, mas a janela de revogação de 72 horas e as regras de proveniência para grandes plataformas começam em datas diferentes. Uma equipe de produto planejando um lançamento tem de acompanhar três ou quatro datas de vigência ao mesmo tempo, e as penalidades variam conforme o dispositivo. A própria cláusula de urgência do SB 1000 torna a primeira delas imediata, o que não deixa margem para provedores que vinham operando abaixo do limite antigo.

O lado trabalhista do pacote

O anúncio do mesmo dia cobriu mais do que transparência. Sobre decisões no local de trabalho, o pacote diz que empregadores não podem se basear apenas em IA para disciplina ou demissão, e devem divulgar quando uma demissão em massa, realocação ou dispensa for causada por um sistema de IA. Ferramentas de vigilância no local de trabalho são proibidas em banheiros do ambiente de trabalho. Esses dispositivos ficam ao lado do SB 947 e do SB 951, os projetos de lei sobre decisões automatizadas e deslocamento tecnológico que receberam elogios públicos da Federação de Sindicatos Trabalhistas da Califórnia.

Na saúde, médicos e provedores licenciados mantêm seu julgamento profissional quando ferramentas de IA ou de decisão clínica são usadas, e desenvolvedores de ferramentas de decisão clínica devem tomar medidas razoáveis para reduzir vieses conhecidos ou previsíveis. O AB 1979 e o SB 503 carregam esse tema. O pacote também aborda a síntese genética, exigindo que fabricantes de equipamentos e fornecedores sigam diretrizes de segurança, verifiquem clientes e chequem qual material genético enviam.

Cada uma dessas áreas tem seu próprio grupo setorial, sua própria pilha de conformidade e seu próprio cronograma. Uma empresa que lança uma ferramenta de decisão clínica agora tem o dever de mitigação de viés, um provedor que opera um serviço de geração de vídeo tem um dever de proveniência, e um empregador que usa triagem automatizada tem um dever de divulgação. O tecido conjuntivo é que a Califórnia está construindo obrigações em torno da implantação, em vez de esperar por um único arcabouço federal.

Essa é a aposta estratégica por trás do volume. Com a legislação federal paralisada, os estados se tornaram o palco onde as regras de IA de fato são escritas, e a Califórnia agora tem mais medidas promulgadas do que qualquer outro estado. Empresas que operam nacionalmente precisam planejar para o estado mais rigoroso que atendem, o que transforma as escolhas da Califórnia em política nacional de fato para muitos produtos.

O que os desenvolvedores devem fazer

O desdobramento prático é engenharia e contratos. Equipes de distribuição de modelos enfrentam trabalho de termos de licença para preservar a capacidade de divulgação e definir o que acontece quando um licenciado a remove. Equipes de produto que dependiam de uma ferramenta de detecção agora precisam de um caminho de verificação, o que geralmente significa incorporar sinais de proveniência no momento da geração em vez de tentar inferi-los depois.

A remoção do limite também muda o planejamento. Uma startup que presumia que não seria coberta até ter um milhão de usuários agora deve tratar a conformidade como requisito de lançamento, não como marco de escala. Os deveres se aplicam no momento da disponibilização a residentes da Califórnia.

A Califórnia agora tem 21 medidas de IA promulgadas, mais do que qualquer outro estado. O padrão entre os projetos de lei do dia é consistente: obrigações de transparência se ampliando, proveniência tratada como uma propriedade que deve sobreviver à distribuição, e autoridade de fiscalização concentrada em agências estaduais e no Procurador-Geral. Para quem envia imagens, áudio ou vídeo gerados a usuários nos EUA, o estado com o manual de regras mais detalhado acabou de torná-lo mais detalhado.