백악관, AI 정책을 정보기관 수장에게 넘기다—단속은 다른 곳에서 시작된다

트럼프 대통령은 국가정보국(DNI) 국장인 제이 클레이튼을 새 연방 AI 태스크포스의 의장으로 임명했습니다. 이번 인선으로 한 사람이 정보 기관과 미국의 AI 의제를 동시에 총괄하게 됐습니다.

조직도로 읽으면 이는 조정의 이야기입니다. 신호로 읽으면, 행정부가 AI를 소비자 보호 문제가 아니라 주로 국가 안보 문제로 다루려 한다는 뜻입니다. 정보기관 수장은 적대 세력, 핵심 인프라, 능력 격차를 생각합니다. 소비자 규제기관은 정보 공개, 구제, 불공정 관행을 생각합니다. 누가 의장을 맡느냐가 태스크포스가 사용할 언어를 결정합니다.

동시에, 정보기관과 아무 관련이 없는 곳에서 단속 압박이 커지고 있습니다.

연방 정부의 태도와 연방 법안은 서로 벌어지고 있다

10월 2일이 있는 주에 의회에 초당파 법안 네 건이 발의됐으며, 각각은 정보기관 중심의 프레임이 다루지 않는 문제를 다루고 있습니다.

첫 번째 법안은 AI 에이전트 운영자가 자신의 시스템이 해킹 사건에 사용될 경우 형사 및 민사 책임을 지도록 하는 내용입니다. 이는 기업들이 사실상 정의하지 않고 남겨둔 책임 문제입니다. 자율 에이전트가 침해 사고를 일으켰을 때 피고는 누구인가 하는 문제입니다. 이 법안은 사후에 책임을 따지는 단계를 넘어섭니다. 외부 시스템에 작용할 수 있는 무엇인가를 배포하기 전에 기업이 반드시 비용으로 계산해야 하는 위험 범주를 만들어냅니다.

두 번째 법안은 연방 기관이 얼굴 인식 및 기타 생체 감시 기술을 사용하는 것을 금지합니다. 이는 정부 고객에게 그러한 기능을 공급하는 계약업체와 공급업체에도 적용되며, 이는 그 자체로 하나의 시장입니다.

세 번째 법안은 미성년자와의 인간 유사 챗봇 상호작용을 기본값으로 비활성화하도록 요구합니다. 의무는 부모가 아니라 제품 개발자에게 부과되며, 이는 의미 있는 전환입니다. 기본값이 안전한 설계(safe-by-default design)는 연령 확인 게이트와는 다른 규제 수단입니다.

네 번째 법안은 국토안보부가 5년에 걸쳐 운영하는 1,000만 달러 규모의 경진대회를 승인하며, AI 해석 가능성과 적대적 조작에 대한 복원력에 초점을 맞춥니다.

네 건 모두 아직 통과되지 않았습니다. 중요한 것은 이들의 총체적 내용입니다. 연방 정부의 AI 의제는 최소한 두 곳에서 동시에 설정되고 있으며, 그 둘이 분명히 정렬되어 있지는 않습니다.

규제 기관들이 먼저 움직였다

법안들이 위원회에 계류되어 있는 동안, 행정부 소속 기관들은 이미 전선을 열었습니다.

FTC는 자율 AI 에이전트와 관련해 OpenAI, Anthropic 및 기타 AI 기업들에 대한 소비자 조사가 진행 중임을 확인했습니다. 캘리포니아주 법무장관은 주 차원 조사의 일환으로 OpenAI에 조사 소환장을 송달했습니다. 뉴욕시 의회는 51명 의원 전원이 참석한 가운데 AI 위험 청문회를 열고 OpenAI와 Anthropic의 최고경영자들을 초청했습니다.

이러한 조치들은 그 효과가 얼마나 빨리 나타나는지와 관련해 중요한 공통점을 지닙니다. 새 법률이 필요하지 않다는 점입니다. 이전 시대에 만들어진 소비자 보호법도 자사 에이전트가 무엇을 할지 허위로 표시한 기업을 포괄하는 것으로 해석될 수 있습니다. 주 법무장관은 기존 권한으로 조사할 수 있습니다. 시의회는 오늘 청문회를 열고 다음 달에 조례를 통과시킬 수 있습니다.

이것이 현재 구도의 구조적 비대칭입니다. 연방 입법 트랙은 느리고 논쟁적입니다. 단속 트랙은 빠르고 이미 움직이고 있습니다.

주(州)들이 실무 규칙을 쓰고 있다

캘리포니아는 AI 직장 보호 법안 패키지를 법으로 제정했습니다. 이는 고용주가 영향을 받는 근로자에게 AI 사용을 공개하도록 요구하고, 채용·근무 일정·해고에 관한 AI 기반 결정 전에 협의를 의무화하며, 알고리즘 관리에 대한 책임 메커니즘을 만들도록 합니다.

이로써 캘리포니아는 인력 관리에 AI를 도입하는 고용주에게 구속력 있는 의무를 부과한 미국 최초의 주가 됐습니다. 주에 본사를 둔 여러 AI 기업은 규정식 공개 요건이 HR 분야의 도입을 늦출 것이라고 반대했지만, 법적 이의 제기는 아직 없습니다.

중요한 것은 구체적인 규칙 자체보다 확산 메커니즘에 있습니다. 캘리포니아의 노동 시장은 여러 주에 걸쳐 사업하는 고용주들이 조각조각 다른 관행을 유지하기보다 하나의 준수 관행을 채택하는 경향이 있을 만큼 큽니다. 그 효과는 이 주의 개인정보보호법이 낳은 것과 같습니다. 준수가 분할보다 쉽기 때문에 주 법률이 사실상의 전국적 기준이 되는 것입니다.

뉴멕시코도 관련된 방향으로 움직였습니다. 법무장관과 주 하원의원이 사전 발의를 앞두고 '프런티어 인공지능 안전 및 책임법(Frontier Artificial Intelligence Safety and Accountability Act)' 초안을 발표했습니다.

아무도 예상하지 못한 선거라는 변수

조지아에서 한 가지 거버넌스 문제가 드러났습니다. 프린스턴대 연구자가 AI 시스템이 공개 선거 기록을 상호 참조해 비밀 투표를 익명 해제할 수 있음을 보여준 뒤 선거관리위원회 긴급 회의가 소집됐습니다.

이 기법은 암호화를 깨거나 투표기를 공격하지 않습니다. 각각 적법하게 공개된 기록들을 결합하며, 그 연결고리가 어느 개별 기록에도 담겨 있지 않던 무언가를 드러냅니다. 어느 단일 데이터셋도 민감하지 않고 피해는 상관관계 분석 후에야 나타나기 때문에 아무도 규제하지 않는 능력입니다.

선거 관리자들에게는 11월 중간선거라는 마감 시한이 있으며, 다른 어떤 규제기관도 같은 일정의 마감 시한을 맞지 않습니다. 그 결과 투표 비밀은 공개 데이터에 기반한 AI 추론에 구체적 규칙이 적용되는 첫 번째 영역이 될 수 있으며, 이는 광범위한 에이전트 책임 문제보다 더 빠르게 규칙을 갖추게 될 것입니다.

아무도 논의하지 않는 워터마크 마감 시한

대서양 건너편에서는 다른 규칙이 곧 시행을 앞두고 있습니다.

EU AI법 제50조 의무는 생성형 AI 시스템에 기계 판독 가능한 워터마크와 합성 콘텐츠 탐지 표시를 요구합니다. OpenAI는 12월 2일 시행을 앞두고 EU 내 ChatGPT 및 Codex 사용자를 대상으로 비가시적 텍스트 워터마킹 기법인 textGrain 배포를 시작했습니다.

시점이 시사적입니다. 고정된 날짜가 있는 기술적 의무는 실제 출시되는 기능을 만들어냈지만, 더 넓은 거버넌스 논쟁은 여전히 맴돌고 있습니다. 마감 시한이 있는 명령은 이행됩니다. 그렇지 않은 원칙은 논의만 됩니다.

두 트랙이 충돌하는 지점

충돌은 에이전트 책임 문제에서 드러날 것입니다.

정보기관 주도의 연방 태도는 능력에 거리낌이 없습니다. 미국 모델이 강력하기를 원하며, 안전을 잘못된 사람들이 모델을 사용하지 못하게 하는 문제로 취급합니다. 에이전트의 행동에 대해 운영자에게 형사 책임을 지우는 책임 체계는 다른 수단입니다. 모든 자율적 행동을 잠재적 위법으로 만들어 배포를 늦춥니다.

두 진영 사이에 끼인 기업들은 기업들이 늘 하는 대로 할 것입니다. 눈에 보이는 단속을 따릅니다. 즉 에이전트 권한에 대한 법률 검토, 자율적 행동의 로깅, 인간 승인을 위해 멈추는 에이전트에 대한 선호로 나타납니다. 이러한 선택은 연방 법률이 존재하기 훨씬 전에, 주 소환장과 기관 조사에 대응해 지금 이루어지고 있습니다.

해석 가능성 상금은 다른 쪽에서 같은 격차를 가리킵니다. 5년간 1,000만 달러는 업계 연구 예산에 비하면 반올림 오차 수준이며, 책임 규칙과 나란히 법안에 포함됐다는 점은 의회가 아무도 설명할 수 없는 결정을 내리는 시스템에 대해 기업에 책임을 묻고 있다는 사실을 인식하고 있음을 시사합니다. 경진대회에 자금을 대는 것이 표준을 부과하는 것보다 저렴합니다.

지켜볼 것

세 개의 날짜와 하나의 숫자입니다.

네 건의 법안 중 하나라도 위원회 심사(markup)에 도달하는지 지켜보십시오. 그렇다면 입법 트랙이 쇼가 아니라 실제로 움직이고 있다는 뜻입니다. FTC 조사가 구체적인 행위 요건을 명시한 합의로 이어지는지 지켜보십시오. 그렇다면 다른 모든 AI 기업에 하나의 템플릿을 제공하게 됩니다. 고용주 연합이 캘리포니아의 직장 관련 법률에 대해 선점(preemption) 소송을 제기하는지 지켜보십시오. 어느 쪽으로 판결이 나든 전국 주(州) 규제의 범위를 정하게 됩니다.

그 숫자는 향후 1년간 연방 기관이 아닌 주(州)가 제기한 AI 단속 조치의 비중입니다. 이 비중이 계속 오른다면, 연방 태스크포스는 자신이 통제하지 못하는 분야의 전략을 세우고 있는 자신을 발견하게 될 것입니다.