Califórnia proíbe demitir trabalhadores apenas com base na palavra de um algoritmo

A Califórnia se tornou o primeiro estado dos EUA a impedir que empregadores demitam ou disciplinem trabalhadores com base apenas na palavra de um sistema automatizado. O governador Newsom sancionou a SB 947, e a lei entra em vigor em julho de 2027.

A exigência central do projeto é simples de enunciar e mais difícil de cumprir. Quando um algoritmo é a base primária de uma decisão de demitir, rebaixar ou disciplinar alguém, uma pessoa precisa revisá-la de forma independente. O funcionário recebe aviso por escrito. O funcionário também tem o direito de ver os dados que o sistema utilizou.

Esse último ponto é o que vai manter as equipes de conformidade ocupadas. Um direito de acesso aos dados por trás de uma decisão obriga as empresas a saber de onde esses dados vieram, como foram ponderados e se podem ser apresentados de uma forma que uma pessoa consiga entender.

A regra mira a parte silenciosa da automação

A maior parte do direito trabalhista já presume que uma pessoa decidiu. A SB 947 trata do caso em que, na verdade, ninguém decidiu.

Softwares de gestão de força de trabalho atribuem turnos, pontuam desempenho e sinalizam faltas há anos. Esses sistemas são vendidos como apoio à decisão. Na prática, uma pontuação que cai abaixo de um limite pode disparar uma demissão automática, e o gerente que clica no botão final pode não ter mais informação do que a própria pontuação.

O projeto traça sua linha exatamente nesse arranjo. Se o algoritmo é a base primária, uma pessoa precisa analisá-lo. Se uma pessoa de fato analisa, entram em cena as obrigações de aviso e de acesso aos dados. O desenho pressupõe que a revisão humana seja real, e não meramente nominal, e é aí que estará a questão da fiscalização.

Isto é um remendo estadual em uma colcha de retalhos

A Califórnia não é a primeira jurisdição a regulamentar decisões de emprego automatizadas, mas é a primeira a inscrever uma proibição de demissão na legislação estadual. A Lei Local 144 da cidade de Nova York exigia auditorias de viés para ferramentas automatizadas de decisão de emprego e avisos aos candidatos, e tem sido criticada pela quantidade de empregadores que encontraram maneiras de ficar fora de seu alcance. O Colorado aprovou uma lei de IA mais ampla, que classifica decisões de emprego como de alto risco. A Lei de IA da UE também trata sistemas de emprego e de gestão de trabalhadores como de alto risco, o que traz deveres de documentação, supervisão humana e registro para quem os colocar no mercado europeu.

O resultado é uma pilha de regras sobrepostas que não se alinham de forma organizada. Uma empresa que atua na Califórnia, em Nova York e na UE precisa atender a três definições diferentes de sistema abrangido, três regimes diferentes de aviso e três expectativas diferentes de auditoria. Para grandes empregadores com departamento jurídico próprio, isso é administrável, ainda que irritante. Para as agências de recrutamento e as pequenas empresas de logística que mais dependem da escala automatizada, é um ônus operacional real.

O detalhe que ninguém resolveu

A revisão humana é fácil de exigir e difícil de definir. Um gerente que passa quatro minutos confirmando uma pontuação tecnicamente a revisou. Um revisor que tem vinte casos desses antes do almoço vai aprovar a maioria deles. A proteção da lei depende de a revisão ser substantiva, e substância não é algo que um estatuto possa especificar de antemão.

Há um segundo detalhe. O direito de inspecionar os dados pressupõe que o empregador consiga explicar o que o sistema analisou. Muitos produtos comerciais de análise de RH são construídos sobre modelos cujos pesos são opacos até para a própria equipe de suporte do fornecedor, e cujas entradas incluem proxies que ninguém escolheu conscientemente. Produzir uma resposta significativa pode exigir reconstruir uma decisão que o empregador acreditava já estar tomada.

Os apoiadores do projeto apostam que o dever de divulgação, mais do que a revisão humana, é o que muda comportamentos. Quando uma empresa precisa entregar o raciocínio, sistemas incapazes de produzir raciocínio tornam-se difíceis de defender, e essa pressão chega até a área de compras. O fornecedor que consegue se explicar ganha a renovação do contrato.

O que os empregadores devem fazer antes de julho

Os passos práticos não são exóticos. Faça um inventário de quais sistemas tocam contratação, avaliação, escalas, promoção e demissão. Para cada um, determine se é a base primária de uma decisão ou uma entrada de apoio, porque a resposta muda o que a lei exige. Mantenha registros do envolvimento humano em cada etapa, incluindo carimbos de data e hora e quem aprovou. Depois, teste se o sistema consegue produzir uma explicação que um trabalhador realmente consiga acompanhar.

O exercício mais útil é um ensaio. Escolha uma ação disciplinar recente e reconstrua-a como se um funcionário tivesse pedido os dados. Onde a trilha acaba é onde está a lacuna.

O lado do fornecedor na equação

O alcance do projeto vai além dos próprios procedimentos do empregador, porque é nas compras que a restrição de fato aperta. Uma empresa que precisa produzir uma explicação sob demanda não pode comprar um sistema que não a forneça, e essa exigência sobe pela cadeia de suprimentos até a forma como os produtos de análise de RH são construídos e vendidos.

Espere três ajustes por parte dos fornecedores. Documentação que descreva as entradas e a lógica de pontuação em um formato que um não especialista consiga ler. Registros (logs) que documentem qual versão de um modelo produziu qual decisão, para que a empresa possa reconstruir uma escolha meses depois. E um recurso de humano no circuito (human-in-the-loop) que seja uma etapa real do fluxo de trabalho, e não uma caixa de seleção que o gerente marca com um clique.

Os fornecedores que já investiram em explicabilidade vão apresentar isso como um recurso. Os que não investiram terão de decidir se reconstroem suas soluções ou se vendem para jurisdições com regras mais frouxas, e a segunda opção encolhe a cada ano, à medida que mais estados avançam.

O prazo é o ponto

A Califórnia escolheu uma data de entrada em vigor em julho de 2027, cerca de um ano após a sanção. Esse intervalo é deliberado. Dá aos empregadores abrangidos tempo para inventariar seus sistemas e renegociar contratos, e dá ao estado tempo para redigir orientações de fiscalização que o estatuto não fornece.

Também cria uma janela em que as regras práticas serão definidas pelas primeiras reclamações, e não pelo texto. Quanto de revisão humana conta como independente, o que um pedido de acesso a dados precisa conter e se uma pontuação que é apenas uma entre várias entradas constitui uma base primária — tudo isso será resolvido caso a caso no primeiro ano. As empresas que documentarem seu raciocínio agora argumentarão a partir de uma posição mais forte do que aquelas que improvisarem quando a primeira notificação chegar.

O que isso de fato resolve

Apesar de todo o detalhamento procedimental, a SB 947 responde claramente a uma pergunta. Quando uma máquina toma uma decisão que custa a alguém o seu emprego, uma pessoa precisa assumir essa decisão, e o trabalhador tem o direito de ver o porquê. É um princípio restrito, e é difícil argumentar contra ele em público.

Todo o resto está inacabado. A definição de sistema abrangido, o padrão para a revisão independente e o alcance do direito de acesso aos dados serão objeto de litígio e revisão. O importante é que o ônus da prova mudou de lado. Antes, o trabalhador tinha de mostrar que uma decisão automatizada era ilegal. Daqui em diante, o empregador terá de mostrar que uma pessoa realmente tomou a decisão e que consegue explicar como.

A SB 947 não vai deter a automação no RH, e não é essa a sua intenção. Ela estabelece um piso: uma pessoa precisa assumir a decisão, e o trabalhador tem o direito de ver a sua base. Quanto esse piso vai resistir dependerá de a revisão continuar real quando a papelada virar rotina. As empresas que tratarem o dever de divulgação como uma restrição de projeto, e não como um formulário a preencher, acharão a conformidade mais fácil e os sistemas que compram mais defensáveis.