Kalifornien verbietet Entlassungen allein auf das Wort eines Algorithmus

Kalifornien ist der erste US-Bundesstaat, der Arbeitgeber daran hindert, Beschäftigte allein auf Anordnung eines automatisierten Systems zu entlassen oder zu disziplinieren. Gouverneur Newsom hat SB 947 unterzeichnet; das Gesetz tritt im Juli 2027 in Kraft.

Die Kernanforderung des Gesetzentwurfs ist einfach zu formulieren und schwerer zu erfüllen. Wenn ein Algorithmus die primäre Grundlage für die Entscheidung ist, jemanden zu entlassen, herabzustufen oder zu disziplinieren, muss ein Mensch diese Entscheidung unabhängig überprüfen. Die Beschäftigten erhalten eine schriftliche Mitteilung. Außerdem erhalten sie das Recht, die vom System verwendeten Daten einzusehen.

Vor allem der letzte Punkt wird die Compliance-Teams beschäftigen. Ein Recht auf Zugang zu den Daten hinter einer Entscheidung zwingt Unternehmen zu wissen, woher diese Daten stammen, wie sie gewichtet wurden und ob sie in einer für Menschen verständlichen Form bereitgestellt werden können.

Die Regel zielt auf den stillen Teil der Automatisierung

Das meiste Arbeitsrecht geht bereits davon aus, dass ein Mensch entschieden hat. SB 947 behandelt den Fall, in dem das niemand wirklich getan hat.

Software für Workforce-Management weist seit Jahren Schichten zu, bewertet Leistung und markiert Anwesenheitsprobleme. Die Systeme werden als Entscheidungsunterstützung vermarktet. In der Praxis kann ein Wert, der unter einen Schwellenwert fällt, eine automatische Kündigung auslösen, und der Manager, der den letzten Knopf klickt, hat möglicherweise nicht mehr Informationen als den Wert selbst.

Der Gesetzentwurf zieht hier die Grenze. Wenn der Algorithmus die primäre Grundlage ist, muss ein Mensch ihn prüfen. Wenn ein Mensch tatsächlich prüft, greifen die Mitteilungs- und Datenzugangspflichten. Das Konzept geht davon aus, dass die menschliche Überprüfung echt und nicht nur nominell ist – und genau hier wird die Durchsetzungsfrage liegen.

Dies ist ein einzelstaatlicher Flicken auf einem Flickenteppich

Kalifornien ist nicht die erste Jurisdiktion, die automatisierte Beschäftigungsentscheidungen reguliert, aber der erste Bundesstaat, der ein Verbot von Entlassungen in staatliches Recht schreibt. New Yorks Local Law 144 verlangte Bias-Audits für automatisierte Beschäftigungsentscheidungstools und Benachrichtigungen an Bewerber; sie wurde dafür kritisiert, wie viele Arbeitgeber Wege fanden, außerhalb ihres Anwendungsbereichs zu bleiben. Colorado hat ein umfassenderes KI-Gesetz verabschiedet, das Beschäftigungsentscheidungen als Hochrisiko einstuft. Der EU AI Act behandelt Beschäftigungs- und Arbeitsmanagementsysteme ebenfalls als Hochrisiko, was Dokumentations-, menschliche Aufsichts- und Protokollierungspflichten für alle mit sich bringt, die sie auf dem europäischen Markt anbieten.

Das Ergebnis ist ein Stapel überlappender Regeln, die nicht sauber aufeinander abgestimmt sind. Ein Unternehmen, das in Kalifornien, New York und der EU tätig ist, muss drei verschiedene Definitionen eines erfassten Systems, drei verschiedene Mitteilungsregelungen und drei verschiedene Audit-Erwartungen erfüllen. Für große Arbeitgeber mit eigener Rechtsabteilung ist das machbar, wenn auch lästig. Für Personaldienstleister und kleine Logistikunternehmen, die am stärksten auf automatisierte Schichtplanung setzen, ist es eine echte operative Belastung.

Der Knackpunkt, den niemand gelöst hat

Menschliche Überprüfung lässt sich leicht vorschreiben und schwer definieren. Ein Manager, der vier Minuten damit verbringt, einen Wert zu bestätigen, hat ihn technisch gesehen überprüft. Ein Prüfer, der vor dem Mittagessen zwanzig solcher Fälle auf dem Tisch hat, wird die meisten davon genehmigen. Der Schutz des Gesetzes hängt davon ab, dass die Überprüfung substanziell ist, und Substanz kann ein Gesetz nicht im Voraus festlegen.

Es gibt einen zweiten Knackpunkt. Das Recht, die Daten einzusehen, setzt voraus, dass der Arbeitgeber erklären kann, was das System betrachtet hat. Viele kommerzielle HR-Analyseprodukte basieren auf Modellen, deren Gewichtungen selbst für das Support-Team des Anbieters undurchsichtig sind und deren Eingaben Proxys enthalten, die niemand bewusst ausgewählt hat. Eine aussagekräftige Antwort zu liefern, kann bedeuten, eine Entscheidung zu rekonstruieren, die der Arbeitgeber bereits für getroffen hielt.

Die Unterstützer des Gesetzentwurfs setzen darauf, dass die Offenlegungspflicht mehr als die menschliche Überprüfung das Verhalten ändert. Wenn ein Unternehmen die Begründung herausgeben muss, werden Systeme, die keine Begründung liefern können, schwer zu verteidigen, und dieser Druck wirkt bis in die Beschaffung zurück. Der Anbieter, der sich selbst erklären kann, gewinnt die Vertragsverlängerung.

Was Arbeitgeber vor Juli tun sollten

Die praktischen Schritte sind nicht exotisch. Erfassen Sie, welche Systeme Einstellung, Bewertung, Schichtplanung, Beförderung und Entlassung berühren. Stellen Sie für jedes fest, ob es die primäre Grundlage für eine Entscheidung oder ein unterstützender Input ist, denn die Antwort verändert, was das Gesetz verlangt. Dokumentieren Sie die menschliche Beteiligung in jeder Phase, einschließlich Zeitstempeln und wer freigegeben hat. Testen Sie dann, ob das System eine Erklärung liefern kann, der ein Beschäftigter tatsächlich folgen könnte.

Die nützlichste Übung ist ein Probelauf. Wählen Sie eine kürzliche Disziplinarmaßnahme und rekonstruieren Sie sie, als hätte ein Beschäftigter die Daten angefordert. Wo die Spur endet, liegt die Lücke.

Die Anbieterseite der Gleichung

Die Reichweite des Gesetzentwurfs geht über die eigenen Verfahren des Arbeitgebers hinaus, denn in der Beschaffung wirkt die Einschränkung tatsächlich. Ein Unternehmen, das auf Anfrage eine Erklärung liefern muss, kann kein System kaufen, das keine liefert, und diese Anforderung wandert die Lieferkette hinauf bis dahin, wie HR-Analyseprodukte gebaut und verkauft werden.

Erwarten Sie drei Anpassungen von Anbietern. Dokumentation, die Eingaben und Bewertungslogik in einer Form beschreibt, die auch Nicht-Fachleute lesen können. Protokollierung, die festhält, welche Version eines Modells welche Entscheidung erzeugt hat, damit ein Unternehmen eine Entscheidung Monate später rekonstruieren kann. Und eine Human-in-the-Loop-Funktion, die ein echter Workflow-Schritt ist und nicht ein Kontrollkästchen, das ein Manager mit einem Klick abhakt.

Die Anbieter, die bereits in Erklärbarkeit investiert haben, werden dies als Feature darstellen. Die anderen müssen entscheiden, ob sie neu bauen oder in Jurisdiktionen mit lockereren Regeln verkaufen, und die zweite Option schrumpft jedes Jahr, während mehr Bundesstaaten nachziehen.

Der Zeitpunkt ist der eigentliche Punkt

Kalifornien hat als Inkrafttretensdatum Juli 2027 gewählt, etwa ein Jahr nach der Unterzeichnung. Diese Zeitspanne ist Absicht. Sie gibt erfassten Arbeitgebern Zeit, ihre Systeme zu erfassen und Verträge neu zu verhandeln, und sie gibt dem Staat Zeit, Durchsetzungshinweise zu verfassen, die das Gesetz nicht liefert.

Sie schafft außerdem ein Fenster, in dem die praktischen Regeln eher von den ersten Beschwerden als vom Gesetzestext gesetzt werden. Wie viel menschliche Überprüfung als unabhängig zählt, was ein Datenzugangsantrag enthalten muss und ob ein Wert, der einer von mehreren Inputs ist, eine primäre Grundlage darstellt – all das wird im ersten Jahr von Fall zu Fall geklärt. Unternehmen, die ihre Begründung jetzt dokumentieren, argumentieren aus einer stärkeren Position als solche, die improvisieren, sobald die erste Anfrage eintrifft.

Was dies tatsächlich klärt

Bei allem prozeduralen Detail beantwortet SB 947 eine Frage klar. Wenn eine Maschine eine Entscheidung trifft, die jemanden den Job kostet, muss ein Mensch diese Entscheidung verantworten, und der Beschäftigte darf sehen, warum. Das ist ein enges Prinzip, und es ist schwer, öffentlich dagegen zu argumentieren.

Alles andere ist unfertig. Die Definition eines erfassten Systems, der Standard für unabhängige Überprüfung und die Reichweite des Datenzugangsrechts werden gerichtlich geklärt und überarbeitet werden. Wichtig ist, dass sich die Beweislast verschoben hat. Früher musste ein Beschäftigter nachweisen, dass eine automatisierte Entscheidung unrechtmäßig war. Künftig muss ein Arbeitgeber nachweisen, dass ein Mensch die Entscheidung tatsächlich getroffen hat und dass er erklären kann, wie.

SB 947 wird die Automatisierung im HR nicht stoppen, und das ist auch nicht beabsichtigt. Es setzt eine Untergrenze: Ein Mensch muss die Entscheidung verantworten, und der Beschäftigte hat ein Recht, die Grundlage einzusehen. Wie tragfähig diese Untergrenze ist, hängt davon ab, ob die Überprüfung echt bleibt, sobald der Papierkram Routine wird. Unternehmen, die die Offenlegungspflicht als Designvorgabe statt als auszufüllendes Formular behandeln, werden die Compliance einfacher finden – und die Systeme, die sie kaufen, besser verteidigen können.