カリフォルニア州、アルゴリズムの一言だけで労働者の解雇を禁止

カリフォルニア州は、自動化システムの言い分だけを理由に雇用主が労働者を解雇したり懲戒したりすることを禁じた、米国初の州となった。ニューサム知事はSB 947に署名し、この法律は2027年7月に施行される。

法案の中核要件は、言うのは簡単だが、遵守するのは難しい。アルゴリズムが、誰かを解雇、降格、または懲戒する決定の主要な根拠である場合、人間が独立してそれをレビューしなければならない。従業員には書面による通知が行われる。従業員には、システムが使用したデータを閲覧する権利も与えられる。

最後の点は、コンプライアンスチームを忙しくさせ続けるものだ。決定の背後にあるデータへのアクセス権は、企業に対して、そのデータがどこから来たのか、どのように重み付けされたのか、そして人が理解できる形で提示できるのかを把握することを強いる。

このルールが狙う、自動化の静かな部分

ほとんどの労働法は、すでに人間が決定したことを前提としている。SB 947は、実際には誰も決定していない場合に対処する。

勤務管理ソフトウェアは何年も前から、シフトの割り当て、業績の採点、勤怠のフラグ立てを行ってきた。これらのシステムは意思決定支援として販売されている。しかし実際には、基準値を下回ったスコアが自動解雇を引き起こすことがあり、最終ボタンをクリックするマネージャーは、そのスコア以上の情報を持っていない可能性がある。

法案は、まさにこの仕組みに線を引く。アルゴリズムが主要な根拠であるなら、人間がそれを確認しなければならない。人間が確認するなら、通知とデータアクセスの義務が発動する。この設計は、人間によるレビューが名目的ではなく実質的であることを前提としており、そこに執行上の問題が存在することになる。

これはパッチワーク規制に対する州の継ぎ当て

カリフォルニアは自動化された雇用上の決定を規制する最初の法域ではないが、解雇禁止を州法に明記した最初の州である。ニューヨーク市のローカル法144は、自動化された雇用決定ツールに対するバイアス監査と候補者への通知を義務付けたが、多くの雇用主がその適用範囲外にとどまる方法を見つけたとして批判を招いている。コロラド州は、雇用上の決定を高リスクとして分類する、より広範なAI法を可決した。EU AI法も、雇用および労働者管理システムを高リスクとして扱い、欧州市場にそれらを投入する者に文書化、人間による監視、ログ記録の義務を課している。

その結果、重なり合いながらもきれいに整合しない規則の積み重ねが生じている。カリフォルニア、ニューヨーク、EUで事業を展開する企業は、対象システムの3つの異なる定義、3つの異なる通知制度、3つの異なる監査期待を満たさなければならない。社内弁護士を抱える大企業にとっては、面倒ではあっても対応可能だ。自動化されたシフト編成に最も依存している人材派遣会社や小規模物流企業にとっては、真の運用負担となる。

誰も解決していない難点

人間によるレビューを義務付けるのは簡単だが、定義するのは難しい。スコアを確認するのに4分費やしたマネージャーは、技術的にはそれをレビューしたことになる。昼前にそうした案件を20件抱えるレビュアーは、そのほとんどを承認するだろう。法律の保護は、レビューが実質的であることにかかっており、実質性は法律があらかじめ指定できるものではない。

さらに第二の難点がある。データを閲覧する権利は、雇用主がシステムが何を見たのかを説明できることを前提としている。多くの商用HR分析製品は、ベンダー自身のサポートチームにとっても重みが不透明なモデルに基づいて構築されており、その入力には誰も意識的に選んでいない代理変数が含まれている。意味のある回答を出すには、雇用主がすでになされたと思っていた決定を再構築する必要があるかもしれない。

法案の支持者たちは、人間によるレビューよりもむしろ、開示義務こそが行動を変えると賭けている。企業が推論を引き渡さなければならなくなると、推論を生み出せないシステムは擁護しにくくなり、その圧力は調達の段階にまで及ぶ。自らを説明できるベンダーが契約更新を勝ち取る。

雇用主が7月までにすべきこと

実務的な手順は奇異なものではない。採用、評価、シフト編成、昇進、解雇に関わるシステムを棚卸しする。それぞれについて、それが決定の主要な根拠なのか、補助的な入力なのかを判断する。答えによって法律が求めることが変わるからだ。各段階での人間の関与を、タイムスタンプや承認者を含めて記録する。そのうえで、システムが労働者に実際に理解できる説明を生成できるか試す。

最も有用な練習は予行演習だ。最近の懲戒処分を1件選び、従業員がデータの開示を求めたかのように再構築する。記録の跡が途切れる場所が、ギャップのある場所だ。

ベンダー側の事情

法案の射程は、雇用主自身の手続きよりもさらに広がる。制約が実際に効いてくるのは調達の場面だからだ。求められれば説明を出さなければならない企業は、説明を提供しないシステムを購入できない。そしてその要件はサプライチェーンを遡り、HR分析製品がどのように作られ、販売されるかにまで及ぶ。

ベンダーには3つの調整を期待すべきだ。非専門家にも読める形で入力とスコアリングの論理を説明する文書。どのモデルのバージョンがどの決定を生み出したかを記録し、企業が数か月後に判断を再構築できるようにするログ。そして、マネージャーがワンクリックでチェックを入れて済ませるチェックボックスではなく、実際のワークフロー手順としてのヒューマン・イン・ザ・ループ機能である。

すでに説明可能性に投資してきたベンダーは、これを機能として打ち出すだろう。そうしてこなかったベンダーは、作り直すか、規制の緩い法域に販売するかを決めなければならない。そして、より多くの州が動くにつれて、後者の選択肢は年々狭まっている。

タイミングこそが要点

カリフォルニアは2027年7月という施行日を選んだ。これは署名からおよそ1年後である。この間隔は意図的なものだ。対象となる雇用主には、システムを棚卸しし、契約を再交渉する時間を与え、州には、法律自体が提供しない執行ガイダンスを策定する時間を与える。

また、実際のルールが条文ではなく、最初のいくつかの苦情によって決まっていく期間も生まれる。どれだけの人間によるレビューが独立したものと見なされるのか、データアクセス請求には何が含まれなければならないのか、複数の入力の一つにすぎないスコアが主要な根拠に当たるのかは、最初の1年間に事例ごとに解決されるだろう。今から推論を文書化しておく企業は、最初の問い合わせが来てから場当たり的に対応する企業よりも強い立場で議論できる。

これで実際に確定すること

多くの手続き的細目があるとはいえ、SB 947は一つの問いに明確に答えている。機械が誰かの職を失わせる判断を下すとき、人間がその判断に責任を持たなければならず、労働者はその理由を見ることができる。これは狭い原則であり、公の場で反論するのは難しい。

それ以外はすべて未完成である。対象システムの定義、独立したレビューの基準、データアクセス権の及ぶ範囲は、訴訟と改正の対象になるだろう。重要なのは、立証責任が移ったことだ。以前は、労働者が自動化された決定が違法であることを示さなければならなかった。今後は、雇用主が、人間が真にその決定を下したこと、そしてその方法を説明できることを示さなければならない。

SB 947は人事における自動化を止めないし、そうすることが目的でもない。それは最低基準を定める。人間が決定に責任を持たなければならず、労働者にはその根拠を見る権利がある。その最低基準がどれだけ維持されるかは、書類仕事が日常業務になった後もレビューが実質的であり続けるかどうかにかかっている。開示義務を提出する書式ではなく設計上の制約として扱う企業は、コンプライアンスをより容易に感じ、購入するシステムをより擁護しやすくなるだろう。