캘리포니아, 알고리즘의 말만으로 근로자 해고 금지

캘리포니아는 자동화 시스템의 결정만으로 근로자를 해고하거나 징계하는 것을 금지한 미국 최초의 주가 되었다. 뉴섬 주지사는 SB 947에 서명했으며, 이 법은 2027년 7월에 발효된다.

이 법안의 핵심 요건은 말로 하기는 간단하지만 준수하기는 더 어렵다. 알고리즘이 누군가를 해고, 강등 또는 징계하는 결정의 주된 근거인 경우, 사람이 이를 독립적으로 검토해야 한다. 직원은 서면 통지를 받는다. 직원은 또한 시스템이 사용한 데이터를 볼 권리를 갖는다.

마지막 부분은 컴플라이언스 팀을 바쁘게 만들 것이다. 결정 뒤에 있는 데이터에 대한 접근 권리는 기업으로 하여금 그 데이터가 어디에서 왔는지, 어떻게 가중치가 부여되었는지, 그리고 사람이 이해할 수 있는 형태로 산출될 수 있는지를 알도록 강제한다.

이 규칙은 자동화의 조용한 부분을 겨냥한다

대부분의 노동법은 이미 사람이 결정했다고 전제한다. SB 947은 실제로는 아무도 결정하지 않은 경우를 다룬다.

인력 관리 소프트웨어는 수년간 교대 근무를 배정하고, 성과를 점수화하며, 근태를 표시해 왔다. 이러한 시스템은 의사결정 지원으로 마케팅된다. 실제로는 점수가 기준선 아래로 떨어지면 자동 해고가 촉발될 수 있으며, 최종 버튼을 누르는 관리자는 점수 자체 외에는 더 많은 정보를 갖지 못할 수 있다.

이 법안은 바로 그런 구조에 선을 긋는다. 알고리즘이 주된 근거라면 사람이 그것을 확인해야 한다. 사람이 실제로 확인하면 통지 및 데이터 접근 의무가 발생한다. 이 설계는 인간 검토가 명목상이 아니라 실제적이라고 전제하며, 바로 여기에 집행 문제가 달려 있다.

이는 파편화된 규제 위에 놓인 주 단위의 덧대기다

캘리포니아는 자동화된 고용 결정을 규제한 첫 관할권은 아니지만, 해고 금지를 주법에 명시한 첫 사례다. 뉴욕시의 지방법 144호는 자동화된 고용 결정 도구에 대한 편향 감사와 지원자에 대한 통지를 요구했지만, 얼마나 많은 고용주가 그 적용 범위를 벗어날 방법을 찾았는지에 대한 비판을 받아 왔다. 콜로라도는 고용 결정을 고위험으로 분류하는 더 포괄적인 AI 법을 통과시켰다. EU AI법도 고용 및 근로자 관리 시스템을 고위험으로 취급하며, 이는 유럽 시장에 이러한 시스템을 출시하는 모든 이에게 문서화, 인간 감독, 로깅 의무를 부과한다.

그 결과 깔끔하게 맞아떨어지지 않는 중첩 규칙의 층이 생겼다. 캘리포니아, 뉴욕, EU에서 운영되는 기업은 적용 대상 시스템에 대한 세 가지 다른 정의, 세 가지 다른 통지 제도, 세 가지 다른 감사 기대치를 충족해야 한다. 사내 변호사가 있는 대형 고용주에게는 성가시긴 해도 감당할 만하다. 자동화된 일정 관리를 가장 많이 의존하는 인력 파견 업체와 소규모 물류 회사에게는 진정한 운영 부담이다.

아무도 해결하지 못한 문제

인간 검토는 의무화하기는 쉽지만 정의하기는 어렵다. 점수를 확인하는 데 4분을 보낸 관리자는 기술적으로 그것을 검토한 것이다. 점심 전에 그러한 사례 스무 건을 처리해야 하는 검토자는 대부분을 승인할 것이다. 법의 보호는 검토가 실질적일 때에만 작동하며, 실질성은 법률이 미리 구체적으로 정할 수 있는 것이 아니다.

두 번째 문제가 있다. 데이터를 열람할 권리는 고용주가 시스템이 무엇을 살펴봤는지 설명할 수 있다고 전제한다. 많은 상용 HR 분석 제품은 가중치가 공급업체 자체 지원 팀에게도 불투명한 모델을 기반으로 하며, 입력값에는 아무도 의식적으로 선택하지 않은 대리 변수가 포함된다. 의미 있는 답변을 산출하려면 고용주가 이미 내려졌다고 믿었던 결정을 다시 구성해야 할 수도 있다.

이 법안의 지지자들은 인간 검토보다 공개 의무가 행동을 바꾼다고 본다. 기업이 추론 근거를 제출해야 할 때, 추론을 산출하지 못하는 시스템은 방어하기 어려워지고, 그 압력은 조달 단계로까지 거슬러 올라간다. 스스로를 설명할 수 있는 공급업체가 갱신 계약을 따낸다.

고용주가 7월 전에 해야 할 일

실무 단계는 그리 이국적이지 않다. 채용, 평가, 일정, 승진, 해고에 관여하는 시스템을 목록화하라. 각 시스템이 결정의 주된 근거인지 보조 입력인지 판단하라. 답에 따라 법이 요구하는 바가 달라지기 때문이다. 각 단계에서의 인간 개입 기록을 타임스탬프와 승인자까지 포함해 보관하라. 그런 다음 시스템이 근로자가 실제로 이해할 수 있는 설명을 산출할 수 있는지 테스트하라.

가장 유용한 훈련은 예행연습이다. 최근의 징계 조치 하나를 골라, 직원이 데이터를 요청한 것처럼 재구성해 보라. 기록이 끊기는 곳이 바로 공백이 있는 곳이다.

공급업체 측면

이 법안의 영향력은 고용주의 자체 절차보다 더 멀리 미친다. 제약이 실제로 체감되는 곳은 조달이기 때문이다. 요구가 있으면 설명을 산출해야 하는 기업은 설명을 제공하지 않는 시스템을 살 수 없으며, 그 요건은 공급망을 거슬러 올라가 HR 분석 제품이 만들어지고 판매되는 방식에까지 영향을 미친다.

공급업체의 세 가지 조정을 예상하라. 비전문가도 읽을 수 있는 형태로 입력값과 점수 산정 로직을 설명하는 문서. 어떤 버전의 모델이 어떤 결정을 내렸는지 기록하여 기업이 몇 달 후에도 판단을 재구성할 수 있게 하는 로깅. 그리고 관리자가 한 번의 클릭으로 지우는 체크박스가 아니라 실제 워크플로 단계인 휴먼 인 더 루프 기능이다.

설명 가능성에 이미 투자한 공급업체는 이를 기능으로 내세울 것이다. 그렇지 않은 업체는 재구축할지, 더 느슨한 규칙을 가진 관할권에 판매할지 결정해야 하며, 더 많은 주가 움직일수록 두 번째 선택지는 매년 줄어든다.

시점이 핵심이다

캘리포니아는 2027년 7월 발효일을 선택했으며, 이는 서명 후 약 1년 뒤다. 이 간격은 의도적이다. 적용 대상 고용주에게 시스템을 목록화하고 계약을 재협상할 시간을 주고, 주에는 법률이 제공하지 않는 집행 지침을 작성할 시간을 준다.

또한 실무 규칙이 법문이 아니라 처음 몇 건의 불만 제기로 정해지는 창구를 만든다. 얼마나 많은 인간 검토가 독립적인 것으로 인정되는지, 데이터 접근 요청에 무엇이 포함되어야 하는지, 여러 입력 중 하나인 점수가 주된 근거가 되는지는 모두 첫해에 사례별로 해결될 것이다. 지금 추론을 문서화하는 기업은 첫 문의가 도착한 뒤에 즉흥적으로 대응하는 기업보다 더 강한 입장에서 주장할 것이다.

이것이 실제로 정리하는 것

모든 절차적 세부 사항에도 불구하고, SB 947은 한 가지 질문에 명확히 답한다. 기계가 누군가의 일자리를 앗아가는 결정을 내릴 때, 사람이 그 결정을 책임져야 하며, 근로자는 그 이유를 볼 수 있어야 한다. 이는 좁은 원칙이며, 공개적으로 반대하기 어려운 원칙이다.

나머지는 모두 미완이다. 적용 대상 시스템의 정의, 독립적 검토의 기준, 데이터 접근 권리의 범위는 소송과 개정을 거칠 것이다. 중요한 부분은 입증 책임이 이동했다는 점이다. 이전에는 근로자가 자동화된 결정이 불법임을 입증해야 했다. 앞으로는 고용주가 사람이 실제로 그 결정을 내렸고, 그 방법을 설명할 수 있음을 입증해야 한다.

SB 947은 HR의 자동화를 멈추지 않을 것이며, 그럴 의도도 아니다. 이는 최소한의 기준을 설정한다. 사람이 결정을 책임져야 하고, 근로자는 그 근거를 볼 권리가 있다. 그 기준이 얼마나 유지될지는 서류 작업이 일상화된 뒤에도 검토가 실제로 남아 있는지에 달려 있다. 공개 의무를 제출할 양식이 아니라 설계 제약으로 취급하는 기업은 컴플라이언스가 더 쉽고, 구매하는 시스템도 더 방어 가능하다고 느낄 것이다.