カリフォルニア州、1日でAI法案13本に署名。SB 1000が100万ユーザー基準を削除。

9月30日、ギャビン・ニューサム知事の事務所は、労働者、医療、透明性、ディープフェイクを対象とするAI関連法案13本と知事令に署名したと発表した。生成AIを構築する者にとって最も影響が大きいのはSB 1000で、緊急条項により即日発効する。

SB 1000は新たな時計を始めるものではない。8月2日にすでに効力を持っていたカリフォルニアAI透明性法を改正する。この改正は、同法が誰を拘束するかを変更する。

変わったこと

「対象プロバイダー」の定義から、月間平均100万人ユーザーという基準が削除される。旧法では、公的にアクセス可能な生成AIシステムの開発者は、その基準を超えて初めて対象プロバイダーとなった。SB 1000は基準を完全に削除するため、カリフォルニア州居住者が利用できる公的にアクセス可能な画像・音声・動画生成製品の開発者は、ユーザー数にかかわらず対象となる。

以前の枠組みで100万ユーザーラインを下回っていた小規模なテキストから画像を生成するサービス、音声クローニングサービス、動画生成サービスは、その立場を失い、義務のすべてを負う。規制されるには小さすぎると思い込んでいたスタートアップのカテゴリーにとって、その思い込みはちょうど失効した。

第2の変更は、無償の「AI検出ツール」義務を「開示検証ツール」を提供する義務に置き換える。これは工学的に大きく異なる要件だ。検出とは、事後にファイルを分析し、それが生成されたものかどうかを推測することを意味する。検証とは、プロバイダーがそもそも埋め込んだ来歴シグナルを確認するために、ユーザーがファイルに対して実行できるツールを提供することを意味する。

この改正は、ゼロから生成されたコンテンツに加え、生成AIシステムが実質的に改変したコンテンツにも及ぶ。旧法の下で検出ツールを構築したプロバイダーは、自社出力の事後検出から、第三者が操作できる検証ツールへ移行する作業に直面する。

重要な細則

州下院プライバシー・消費者保護委員会の分析は、いくつかの限定を記録している。潜在的開示義務は、技術的に実行可能な範囲でのみ拘束力を持つ。プロバイダーは、自ら構築する代わりに、互換性のある第三者検証ツールへユーザーを誘導してもよい。ライセンシーが潜在的開示機能を除去したとプロバイダーが発見してから72時間以内に、ライセンスを失効させなければならない。

ユーザーが生成していないコンテンツのみを掲載するビデオゲーム、テレビ、ストリーミング、映画プラットフォームには除外がある。主たる機能が支援技術であるシステムは、2029年1月1日まで免除され、免除を虚偽って主張した場合は違反1件につき5万ドルの罰則が科される。一般の罰則は5,000ドルのままである。

その非対称性は注目に値する。資格のない免除を主張することは、通常の違反よりも10倍高くつく。これは規制当局が免除の線引きが争われることを想定していることを示唆する。

パッケージの残り

同じ日に署名された2つの関連法案がテーマを拡張する。AB 2713は、月間ユニークユーザー200万人超と定義される大規模オンラインプラットフォームに対し、技術的に実行可能な場合にシステム来歴データまたは電子署名を故意に除去することを、2027年1月1日から禁止する。SB 1111は、カリフォルニア州の肖像権民事訴訟において、デジタル複製を人の声または肖像の一部とし、それを使って他人になりすますことを、新たな刑法条項の下での虚偽のなりすましの一形態とする。

9月上旬に、ニューサムは、AIシステムの法令遵守を評価する独立検証機関の枠組みを設けるSB 813と、カリフォルニア州初のAI監査人登録枠組みを創設するAB 1405に署名した。両者はともに、第三者によるAI評価のための正式なエコシステムを指し示している。

すべてが生き残ったわけではない。ニューサムは、広範すぎる条項と実施コストを理由に、AB 1542、SB 903、AB 2575に拒否権を行使した。彼はSB 903を、心理療法の専門家の業務を妨げかねない不正確な定義を理由の一部として拒否した。機微な個人データに対する強化された同意保護を包括的禁止に置き換えるはずだったAB 1542については、消費者をプロセスから完全に排除することに疑問を呈し、実施コストが州予算で扱われていないと述べた。

タイミングについても実務上の問題がある。透明性義務は利用可能になった時点で発生するが、72時間の失効期間と大規模プラットフォームの来歴規則は異なる日付で始まる。ローンチを計画するプロダクトチームは、同時に3つか4つの発効日を追跡しなければならず、罰則は条項によって異なる。SB 1000自体の緊急条項により、その最初のものが即時となるため、旧基準を下回って運営していたプロバイダーには助走期間が残されない。

パッケージの雇用面

同日の発表は透明性だけにとどまらなかった。職場の意思決定について、パッケージは、雇用主が懲戒または解雇をAIのみに依拠してはならず、大量解雇、移転、または解雇がAIシステムによって引き起こされた場合には開示しなければならないとしている。職場のトイレでの職場監視ツールは禁止される。これらの条項は、カリフォルニア労働組合連盟から公的な称賛を集めた自動意思決定法案SB 947と技術的置換法案SB 951と並ぶ。

医療について、AIまたは臨床意思決定ツールが使用される場合でも、医師および認可プロバイダーは専門的判断を保持し、臨床意思決定ツールの開発者は、既知または予測可能なバイアスを減らすために合理的な措置を講じなければならない。AB 1979とSB 503がそのテーマを担う。パッケージは遺伝子合成にも触れ、機器メーカーとプロバイダーに対し、安全ガイドラインに従い、顧客を検証し、送り出す遺伝物質を確認することを求める。

これらの各分野には、独自の業界団体、独自のコンプライアンス体制、独自のタイムラインがある。臨床意思決定ツールを出荷する企業にはバイアス軽減義務があり、動画生成サービスを運営するプロバイダーには来歴義務があり、自動スクリーニングを使用する雇用主には開示義務がある。共通するのは、カリフォルニアが単一の連邦枠組みを待つのではなく、展開をめぐる義務を構築していることだ。

それがこの量の背後にある戦略的賭けだ。連邦立法が停滞する中で、州がAIルールが実際に書かれる場となり、カリフォルニアは今や他のどの州よりも多くの制定済み措置を有する。全国で事業を展開する企業は、自社がサービスを提供する最も厳しい州を想定して計画しなければならず、そのためカリフォルニアの選択が多くの製品にとって事実上の国策となる。

構築者がすべきこと

実務的な影響はエンジニアリングと契約に及ぶ。モデル配布チームは、開示機能を保持し、ライセンシーがそれを除去した場合に何が起こるかを定義するためのライセンス条項の作業に直面する。検出ツールに依拠していたプロダクトチームは今や検証パスを必要とする。これは通常、後から推測しようとするのではなく、生成時に来歴シグナルを埋め込むことを意味する。

基準の削除も計画を変える。100万ユーザーになるまで対象にならないと思っていたスタートアップは、今やコンプライアンスを拡大のマイルストーンではなく、ローンチ要件として扱うべきだ。義務はカリフォルニア州居住者に利用可能になった時点で発生する。

カリフォルニアは現在、21の制定済みAI措置を有し、他のどの州よりも多い。その日の法案全体のパターンは一貫している。透明性義務は広がり、来歴は流通を経ても維持されなければならない特性として扱われ、執行権限は州機関と州司法長官に集中する。生成された画像、音声、動画を米国ユーザーに提供する誰にとっても、最も詳細なルールブックを持つ州が、それをさらに詳細にした。