La Californie interdit de licencier un salarié sur la seule parole d'un algorithme

La Californie devient le premier État américain à empêcher les employeurs de licencier ou de sanctionner des salariés sur la seule foi d'un système automatisé. Le gouverneur Newsom a signé le SB 947, et la loi entre en vigueur en juillet 2027.

L'exigence centrale du texte est simple à énoncer et plus difficile à respecter. Lorsqu'un algorithme constitue la base principale d'une décision de licenciement, de rétrogradation ou de sanction, un humain doit l'examiner de façon indépendante. Le salarié reçoit une notification écrite. Il obtient aussi le droit de consulter les données utilisées par le système.

C'est ce dernier point qui va occuper les équipes de conformité. Un droit d'accès aux données qui sous-tendent une décision oblige les entreprises à savoir d'où viennent ces données, comment elles ont été pondérées et si elles peuvent être produites sous une forme compréhensible par un être humain.

La règle vise la part silencieuse de l'automatisation

L'essentiel du droit du travail présuppose déjà qu'un humain a décidé. Le SB 947 traite le cas où, en réalité, personne ne l'a fait.

Les logiciels de gestion de la main-d'œuvre attribuent des créneaux, notent les performances et signalent les absences depuis des années. Ces systèmes sont commercialisés comme des outils d'aide à la décision. Dans les faits, un score qui passe sous un seuil peut déclencher un licenciement automatique, et le manager qui clique sur le bouton final n'a parfois pas plus d'informations que le score lui-même.

Le texte trace sa limite exactement là. Si l'algorithme est la base principale, une personne doit s'y pencher. Si une personne s'y penche réellement, les obligations de notification et d'accès aux données s'appliquent. Le dispositif suppose que l'examen humain est réel et non de pure forme, et c'est là que se jouera la question de l'application.

Une pièce étatique de plus sur un patchwork réglementaire

La Californie n'est pas la première juridiction à encadrer les décisions d'emploi automatisées, mais elle est la première à inscrire une interdiction de licenciement dans une loi d'État. La loi locale 144 de la ville de New York imposait des audits de biais pour les outils automatisés de décision en matière d'emploi ainsi que des notifications aux candidats, et elle a été critiquée parce que de nombreux employeurs ont trouvé le moyen de rester hors de son champ d'application. Le Colorado a adopté une loi sur l'IA plus large, qui classe les décisions d'emploi comme à haut risque. Le règlement européen sur l'IA classe lui aussi les systèmes d'emploi et de gestion des travailleurs comme à haut risque, ce qui entraîne des obligations de documentation, de supervision humaine et de journalisation pour quiconque les met sur le marché européen.

Le résultat est un empilement de règles qui se chevauchent sans s'articuler proprement. Une entreprise présente en Californie, à New York et dans l'UE doit satisfaire trois définitions différentes d'un système couvert, trois régimes de notification distincts et trois attentes différentes en matière d'audit. Pour les grands employeurs dotés d'un service juridique interne, c'est gérable, quoique pénible. Pour les agences d'intérim et les petites entreprises de logistique qui s'appuient le plus sur la planification automatisée, c'est une véritable charge opérationnelle.

Le hic que personne n'a résolu

L'examen humain est facile à imposer et difficile à définir. Un manager qui passe quatre minutes à confirmer un score l'a, techniquement, examiné. Un relecteur qui a vingt dossiers de ce type avant le déjeuner validera la plupart d'entre eux. La protection offerte par la loi dépend du caractère substantiel de l'examen, et le substantiel n'est pas ce qu'une loi peut préciser à l'avance.

Il y a un second hic. Le droit de consulter les données suppose que l'employeur puisse expliquer ce que le système a examiné. De nombreux produits commerciaux d'analytique RH reposent sur des modèles dont les pondérations sont opaques, même pour l'équipe de support de l'éditeur, et dont les variables d'entrée incluent des proxys que personne n'a choisis consciemment. Produire une réponse utile peut exiger de reconstruire une décision que l'employeur croyait déjà prise.

Les partisans du texte parient que c'est l'obligation de transparence, plus encore que l'examen humain, qui fera changer les comportements. Quand une entreprise doit livrer le raisonnement, les systèmes incapables de produire un raisonnement deviennent difficiles à défendre, et cette pression remonte jusqu'à l'acte d'achat. L'éditeur capable de s'expliquer remporte le renouvellement.

Ce que les employeurs doivent faire d'ici juillet

Les étapes pratiques n'ont rien d'exotique. Faites l'inventaire des systèmes qui touchent au recrutement, à l'évaluation, à la planification, aux promotions et aux licenciements. Pour chacun, déterminez s'il constitue la base principale d'une décision ou une donnée d'entrée secondaire, car la réponse change ce que la loi exige. Conservez des traces de l'intervention humaine à chaque étape, horodatages et identité de la personne validant inclus. Testez ensuite si le système peut produire une explication qu'un salarié pourrait réellement suivre.

L'exercice le plus utile est une simulation. Prenez une sanction disciplinaire récente et reconstituez-la comme si un salarié avait demandé les données. Là où la trace s'arrête, il y a une lacune.

Le versant éditeur de l'équation

La portée du texte dépasse les procédures internes de l'employeur, car c'est au moment de l'achat que la contrainte mord vraiment. Une entreprise qui doit produire une explication à la demande ne peut pas acheter un système qui n'en fournira pas, et cette exigence remonte la chaîne d'approvisionnement jusqu'à la façon dont les produits d'analytique RH sont conçus et vendus.

Attendez-vous à trois ajustements de la part des éditeurs. Une documentation qui décrit les données d'entrée et la logique de notation sous une forme lisible par un non-spécialiste. Une journalisation qui enregistre quelle version d'un modèle a produit quelle décision, afin qu'une entreprise puisse reconstituer un choix des mois plus tard. Et une fonction « human-in-the-loop » qui soit une véritable étape du flux de travail, et non une case à cocher que le manager valide en un clic.

Les éditeurs qui ont déjà investi dans l'explicabilité présenteront cela comme un atout. Les autres devront choisir entre tout reconstruire ou vendre dans des juridictions aux règles plus souples ; or la seconde option se réduit d'année en année à mesure que les États légifèrent.

Tout est dans le calendrier

La Californie a retenu une entrée en vigueur en juillet 2027, soit environ un an après la signature. Ce délai est délibéré. Il laisse aux employeurs concernés le temps de recenser leurs systèmes et de renégocier leurs contrats, et à l'État le temps de rédiger les orientations d'application que la loi ne fournit pas.

Il ouvre aussi une fenêtre pendant laquelle les règles pratiques seront fixées par les premières plaintes plutôt que par le texte. Le seuil à partir duquel un examen humain compte comme indépendant, ce que doit contenir une demande d'accès aux données, et la question de savoir si un score parmi plusieurs données d'entrée constitue une base principale : tout cela sera tranché au cas par cas la première année. Les entreprises qui documentent leur raisonnement dès maintenant plaideront en position de force par rapport à celles qui improviseront à la réception de la première mise en cause.

Ce que ce texte tranche réellement

Malgré tous ses détails procéduraux, le SB 947 répond clairement à une question. Quand une machine prend une décision qui coûte son emploi à quelqu'un, une personne doit en assumer la responsabilité, et le salarié a le droit de savoir pourquoi. C'est un principe étroit, et il est difficile à contester publiquement.

Tout le reste reste en chantier. La définition d'un système couvert, le standard de l'examen indépendant et la portée du droit d'accès aux données feront l'objet de litiges et de révisions. L'essentiel est que la charge de la preuve s'est déplacée. Auparavant, c'était au salarié de démontrer qu'une décision automatisée était illégale. Désormais, c'est à l'employeur de démontrer qu'une personne a réellement pris la décision, et qu'il peut expliquer comment.

Le SB 947 n'arrêtera pas l'automatisation des RH, et ce n'est pas son objectif. Il fixe un plancher : une personne doit assumer la décision, et le salarié a le droit d'en voir le fondement. La solidité de ce plancher dépendra de la capacité de l'examen à rester réel une fois la paperasse devenue routinière. Les entreprises qui traitent l'obligation de transparence comme une contrainte de conception plutôt que comme un formulaire à déposer trouveront la conformité plus simple, et les systèmes qu'elles achètent plus défendables.