La California vieta di licenziare i lavoratori sulla sola parola di un algoritmo

La California è diventata il primo Stato americano a impedire ai datori di lavoro di licenziare o sanzionare i lavoratori basandosi unicamente sulle indicazioni di un sistema automatizzato. Il governatore Newsom ha firmato il SB 947, e la legge entrerà in vigore a luglio 2027.

Il requisito centrale del disegno di legge è semplice da enunciare e più difficile da rispettare. Quando un algoritmo è la base principale di una decisione di licenziamento, retrocessione o provvedimento disciplinare, una persona deve riesaminarla in modo indipendente. Il dipendente riceve una comunicazione scritta. Il dipendente ha anche il diritto di vedere i dati utilizzati dal sistema.

Quest'ultimo elemento è quello che terrà occupati i team di conformità. Un diritto di accesso ai dati alla base di una decisione obbliga le aziende a sapere da dove provengono quei dati, come sono stati ponderati e se possono essere prodotti in una forma comprensibile a una persona.

La norma prende di mira la parte silenziosa dell'automazione

La maggior parte del diritto del lavoro presuppone già che abbia deciso una persona. Il SB 947 affronta il caso in cui in realtà nessuno l'ha fatto.

I software di gestione della forza lavoro assegnano turni, valutano le prestazioni e segnalano le presenze da anni. I sistemi vengono commercializzati come supporto decisionale. In pratica, un punteggio che scende sotto una soglia può innescare un licenziamento automatico, e il manager che clicca il pulsante finale può non avere più informazioni del punteggio stesso.

Il disegno di legge traccia la sua linea in questa situazione. Se l'algoritmo è la base principale, una persona deve esaminarlo. Se una persona lo esamina, scattano gli obblighi di notifica e di accesso ai dati. Il progetto presuppone che la revisione umana sia reale e non nominale, ed è qui che si porrà la questione dell'applicazione.

Questa è una toppa statale su un mosaico

La California non è la prima giurisdizione a regolamentare le decisioni occupazionali automatizzate, ma è la prima a inserire un divieto di licenziamento nella legge statale. La Local Law 144 di New York City richiedeva audit di bias per gli strumenti automatizzati di decisione occupazionale e notifiche ai candidati, e ha suscitato critiche per come molti datori di lavoro abbiano trovato modi per rimanere fuori dalla sua portata. Il Colorado ha approvato un atto più ampio sull'IA che classifica le decisioni occupazionali come ad alto rischio. Anche l'AI Act dell'UE considera i sistemi di gestione dei lavoratori e dell'occupazione ad alto rischio, il che comporta obblighi di documentazione, supervisione umana e registrazione per chiunque li immetta sul mercato europeo.

Il risultato è una pila di regole sovrapposte che non si allineano in modo netto. Un'azienda che opera in California, a New York e nell'UE deve soddisfare tre diverse definizioni di sistema coperto, tre diversi regimi di notifica e tre diverse aspettative di audit. Per i grandi datori di lavoro con consulenza legale interna è gestibile, anche se fastidioso. Per le agenzie di personale e le piccole aziende logistiche che si affidano maggiormente alla pianificazione automatizzata, è un vero onere operativo.

Il punto che nessuno ha risolto

La revisione umana è facile da imporre e difficile da definire. Un manager che passa quattro minuti a confermare un punteggio tecnicamente lo ha esaminato. Un revisore che ha venti casi del genere prima di pranzo ne approverà la maggior parte. La protezione della legge dipende dal fatto che la revisione sia sostanziale, e la sostanza non è qualcosa che uno statuto possa specificare in anticipo.

C'è un secondo punto. Il diritto di ispezionare i dati presuppone che il datore di lavoro possa spiegare cosa il sistema ha esaminato. Molti prodotti commerciali di analisi HR si basano su modelli i cui pesi sono opachi persino al team di supporto del fornitore, e i cui input includono proxy che nessuno ha scelto consapevolmente. Produrre una risposta significativa può richiedere di ricostruire una decisione che il datore di lavoro credeva già presa.

I sostenitori del disegno di legge scommettono che sia l'obbligo di divulgazione, più della revisione umana, a cambiare i comportamenti. Quando un'azienda deve consegnare il ragionamento, i sistemi che non possono produrre un ragionamento diventano difficili da difendere, e quella pressione risale fino agli acquisti. Il fornitore che sa spiegarsi vince il rinnovo.

Cosa dovrebbero fare i datori di lavoro prima di luglio

I passi pratici non sono esotici. Inventariare quali sistemi toccano assunzione, valutazione, pianificazione, promozione e licenziamento. Per ciascuno, determinare se è la base principale di una decisione o un input di supporto, perché la risposta cambia ciò che la legge richiede. Conservare registrazioni del coinvolgimento umano in ogni fase, incluse le marche temporali e chi ha approvato. Poi verificare se il sistema può produrre una spiegazione che un lavoratore potrebbe effettivamente seguire.

L'esercizio più utile è una prova generale. Scegli un'azione disciplinare recente e ricostruiscila come se un dipendente avesse chiesto i dati. Dove la traccia si interrompe è dove si trova la lacuna.

Il lato dei fornitori dell'equazione

La portata del disegno di legge si estende oltre le procedure del datore di lavoro, perché è negli acquisti che il vincolo morde davvero. Un'azienda che deve produrre una spiegazione su richiesta non può acquistare un sistema che non ne fornisca una, e tale requisito risale la catena di fornitura fino a come i prodotti di analisi HR vengono costruiti e venduti.

Aspettati tre adeguamenti dai fornitori. Documentazione che descriva input e logica di punteggio in una forma leggibile da un non specialista. Registrazione che tenga traccia di quale versione di un modello ha prodotto quale decisione, così un'azienda può ricostruire una chiamata mesi dopo. E una funzione human-in-the-loop che sia una vera fase del flusso di lavoro, non una casella che un manager spunta con un clic.

I fornitori che hanno già investito nella spiegabilità lo presenteranno come una caratteristica. Quelli che non l'hanno fatto dovranno decidere se ricostruire o vendere in giurisdizioni con regole più permissive, e la seconda opzione si riduce ogni anno mentre più Stati si muovono.

La tempistica è il punto

La California ha scelto una data di entrata in vigore a luglio 2027, circa un anno dopo la firma. Quel divario è deliberato. Dà ai datori di lavoro coperti il tempo di inventariare i loro sistemi e rinegoziare i contratti, e dà allo Stato il tempo di scrivere linee guida di applicazione che lo statuto non fornisce.

Crea anche una finestra in cui le regole pratiche vengono stabilite dalle prime denunce piuttosto che dal testo. Quanta revisione umana conta come indipendente, cosa deve contenere una richiesta di accesso ai dati e se un punteggio che è uno di diversi input costituisca una base principale saranno tutti risolti caso per caso nel primo anno. Le aziende che documentano il loro ragionamento ora discuteranno da una posizione più forte rispetto a quelle che improvvisano dopo l'arrivo della prima richiesta.

Cosa stabilisce effettivamente

Nonostante tutti i dettagli procedurali, il SB 947 risponde chiaramente a una domanda. Quando una macchina prende una decisione che costa a qualcuno il posto di lavoro, una persona deve assumersene la responsabilità, e il lavoratore può vedere perché. È un principio ristretto, ed è difficile da contestare in pubblico.

Tutto il resto è incompiuto. La definizione di sistema coperto, lo standard per la revisione indipendente e la portata del diritto di accesso ai dati saranno oggetto di contenzioso e revisione. La parte importante è che l'onere della prova si è spostato. Prima, un lavoratore doveva dimostrare che una decisione automatizzata era illegittima. In futuro, un datore di lavoro deve dimostrare che una persona ha preso genuinamente la decisione e che è in grado di spiegarne le modalità.

Il SB 947 non fermerà l'automazione nelle risorse umane, e non è pensato per farlo. Stabilisce un limite minimo: una persona deve assumersi la decisione, e il lavoratore ha il diritto di vedere la base. Quanto quel limite tenga dipenderà dal fatto che la revisione rimanga reale una volta che la documentazione diventa routine. Le aziende che trattano l'obbligo di divulgazione come un vincolo di progettazione anziché un modulo da presentare troveranno la conformità più facile e i sistemi che acquistano più difendibili.