캘리포니아, 하루에 AI 법안 13개 서명. SB 1000은 백만 사용자 임계값을 삭제했다

9월 30일 개빈 뉴섬 주지사의 사무실은 노동자, 의료, 투명성, 딥페이크를 다루는 AI 관련 법안 13개와 행정명령에 서명했다고 발표했습니다. 생성형 AI를 만드는 사람에게 이 법안 묶음 중 가장 중대한 것은 긴급 조항을 통해 즉시 발효되는 SB 1000입니다.

SB 1000은 새로운 시계를 시작하지 않습니다. 그것은 이미 8월 2일에 시행 중이던 캘리포니아 AI 투명성법을 개정합니다. 이 개정은 그 법이 누구를 구속하는지를 바꿉니다.

무엇이 바뀌었나

적용 대상 제공자 정의에서 월 평균 사용자 100만 명 기준이 사라집니다. 기존 법에 따르면, 공개적으로 접근 가능한 생성형 AI 시스템의 개발자는 그 기준을 넘어야만 적용 대상 제공자가 되었습니다. SB 1000은 기준을 완전히 제거하므로, 캘리포니아 주민이 이용할 수 있는 공개적 이미지, 오디오 또는 비디오 생성 제품의 개발자는 사용자 수와 관계없이 적용 대상이 됩니다.

이전 체계에서 백만 사용자 선 아래에 있던 더 작은 텍스트-이미지 서비스, 음성 복제 서비스, 비디오 생성 서비스는 그 지위를 잃고 전체 의무를 지게 됩니다. 너무 작아서 규제받지 않을 것이라 가정했던 한 부류의 스타트업에게, 그 가정은 방금 끝났습니다.

두 번째 변화는 무료 "AI 탐지 도구" 의무를 "공개 검증 도구" 제공 의무로 대체합니다. 이는 의미 있게 다른 엔지니어링 요구사항입니다. 탐지는 사후에 파일을 분석해 생성된 것인지 추측하는 것을 뜻합니다. 검증은 제공자가 애초에 삽입한 출처 신호를 확인하기 위해 사용자가 파일에 대해 실행할 수 있는 도구를 제공하는 것을 뜻합니다.

이 개정은 생성형 AI 시스템이 처음부터 생성한 콘텐츠뿐 아니라, 생성형 AI 시스템이 실질적으로 수정한 콘텐츠에도 적용됩니다. 기존 법에 따라 탐지 도구를 구축한 제공자는 이제 자체 출력물에 대한 사후 탐지에서 제3자가 운영할 수 있는 검증 도구로 전환하는 작업에 직면합니다.

중요한 세부 조항

하원 개인정보 및 소비자 보호 위원회 분석에는 몇 가지 단서가 기록되어 있습니다. 잠재적 공개 의무는 기술적으로 실행 가능한 범위에서만 구속력을 가집니다. 제공자는 자체 도구를 구축하는 대신 사용자를 호환되는 제3자 검증 도구로 안내할 수 있습니다. 제공자가 라이선스 사용자가 잠재적 공개 기능을 제거한 사실을 발견한 후 72시간 이내에 라이선스를 취소해야 합니다.

사용자가 생성하지 않은 콘텐츠만 제공하는 비디오 게임, 텔레비전, 스트리밍, 영화 플랫폼에 대한 제외가 있습니다. 주요 기능이 보조 기술인 시스템은 2029년 1월 1일까지 면제되며, 면제를 허위로 주장할 경우 위반당 50,000달러의 벌금이 부과됩니다. 일반 벌금은 5,000달러로 유지됩니다.

그 비대칭성은 주목할 가치가 있습니다. 자격이 없는 면제를 주장하는 것은 일반 위반보다 10배 더 비쌉니다. 이는 규제 당국이 면제 경계가 다퉈질 것으로 예상한다는 것을 시사합니다.

나머지 법안 묶음

같은 날 서명된 두 동반 법안은 이 주제를 확장합니다. AB 2713은 월 순 사용자 200만 명을 초과하는 대형 온라인 플랫폼이 기술적으로 가능한 경우 시스템 출처 데이터나 디지털 서명을 고의로 제거하는 것을 2027년 1월 1일부터 금지합니다. SB 1111은 캘리포니아의 초상권 민사 소송에서 디지털 복제물을 개인의 목소리나 초상의 일부로 만들고, 이를 사용해 다른 사람을 사칭하는 것을 새로운 형법 조항에 따른 허위 사칭의 한 형태로 만듭니다.

9월 초 뉴섬은 AI 시스템의 법적 준수를 평가하는 독립 검증 기관을 위한 체계를 수립하는 SB 813과 캘리포니아 최초의 AI 감사인 등록 체계를 만드는 AB 1405에 서명했습니다. 이들은 함께 제3자 AI 평가를 위한 공식 생태계를 가리킵니다.

모든 것이 살아남지는 않았습니다. 뉴섬은 지나치게 광범위한 조항과 시행 비용을 이유로 AB 1542, SB 903, AB 2575를 거부권 행사했습니다. 그는 SB 903을 부분적으로 부정확한 정의로 인해 심리치료 전문가의 업무 방식이 저해될 수 있다는 이유로 거부했습니다. 민감한 개인 데이터에 대한 강화된 동의 보호를 전면적 금지로 대체하려 했던 AB 1542에 대해서는 소비자를 절차에서 완전히 배제하는 것을 문제 삼았고, 시행 비용이 주 예산에서 다뤄지지 않았다고 말했습니다.

시점에 관한 실무적인 질문도 있습니다. 투명성 의무는 이용 가능 시점에 발생하지만, 72시간 취소 기간과 대형 플랫폼의 출처 규칙은 서로 다른 날짜에 시작됩니다. 출시를 계획하는 제품 팀은 한 번에 서너 개의 시행일을 추적해야 하며, 벌금은 조항마다 다릅니다. SB 1000 자체의 긴급 조항은 그중 첫 번째를 즉시 시행되게 하므로, 기존 기준 아래에서 운영되던 제공자에게는 준비 기간이 남지 않습니다.

법안 묶음의 고용 측면

같은 날 발표는 투명성 이상을 다뤘습니다. 직장 내 결정과 관련해, 이 묶음은 고용주가 징계나 해고를 위해 AI에만 의존해서는 안 되며, 대량 해고, 이전 또는 해고가 AI 시스템으로 인해 발생한 경우 이를 공개해야 한다고 명시합니다. 직장 화장실에서는 직장 감시 도구가 금지됩니다. 이러한 조항은 캘리포니아 노동조합연맹의 공개적 찬사를 받은 자동화 의사결정 및 기술적 대체 법안인 SB 947, SB 951과 나란히 자리합니다.

의료와 관련해서는 AI나 임상 의사결정 도구가 사용될 때 의사와 면허 제공자가 전문적 판단을 유지하며, 임상 의사결정 도구 개발자는 알려졌거나 예측 가능한 편향을 줄이기 위해 합리적인 조치를 취해야 합니다. AB 1979와 SB 503이 그 주제를 담고 있습니다. 이 묶음은 유전자 합성도 건드리는데, 장비 제조업체와 제공자가 안전 지침을 따르고, 고객을 검증하며, 어떤 유전 물질을 보내는지 확인하도록 요구합니다.

이 각 영역은 자체적인 업계 단체, 자체적인 컴플라이언스 체계, 자체적인 일정을 가지고 있습니다. 임상 의사결정 도구를 출시하는 회사는 이제 편향 완화 의무를 지고, 비디오 생성 서비스를 운영하는 제공자는 출처 의무를 지며, 자동화 선별을 사용하는 고용주는 공개 의무를 집니다. 이를 연결하는 공통점은 캘리포니아가 단일 연방 체계를 기다리기보다 배포를 둘러싼 의무를 구축하고 있다는 점입니다.

그것이 이 물량 뒤에 있는 전략적 베팅입니다. 연방 입법이 교착 상태에 빠지면서, 주들이 AI 규칙이 실제로 작성되는 장소가 되었고, 캘리포니아는 이제 다른 어떤 주보다 많은 제정 조치를 가지고 있습니다. 전국적으로 운영하는 회사는 서비스하는 주 중 가장 엄격한 주를 기준으로 계획해야 하며, 이는 캘리포니아의 선택을 많은 제품에 대한 사실상의 국가 정책으로 만듭니다.

빌더가 해야 할 일

실질적인 영향은 엔지니어링과 계약입니다. 모델 배포 팀은 공개 기능을 보존하고 라이선스 사용자가 이를 제거할 경우 어떻게 할지를 정의하기 위한 라이선스 조건 작업에 직면합니다. 탐지 도구에 의존하던 제품 팀은 이제 검증 경로가 필요하며, 이는 보통 나중에 추론하려 하기보다 생성 시점에 출처 신호를 삽입하는 것을 의미합니다.

임계값 제거는 계획도 바꿉니다. 백만 사용자를 확보할 때까지 적용되지 않을 것이라 가정한 스타트업은 이제 컴플라이언스를 규모 달성 마일스톤이 아니라 출시 요건으로 다뤄야 합니다. 의무는 캘리포니아 주민에게 이용 가능한 시점에 발생합니다.

캘리포니아는 이제 21개의 AI 제정 조치를 가지고 있어 다른 어떤 주보다 많습니다. 그날의 법안들에서 나타나는 패턴은 일관됩니다: 투명성 의무가 확대되고, 출처가 유통 과정을 견뎌야 하는 속성으로 취급되며, 집행 권한이 주 기관과 법무장관에게 집중됩니다. 생성된 이미지, 오디오 또는 비디오를 미국 사용자에게 제공하는 모든 사람에게, 가장 상세한 규칙서를 가진 주가 그것을 방금 더 상세하게 만들었습니다.