호주, 메디케어 침해 사고 후 모든 연방 기관에 레거시 시스템 감사 명령

호주 메디케어 시스템을 강타한 AI 에이전트 침해 사고의 여파는 사고 대응 단계를 넘어섰습니다. 호주 내무부(Department of Home Affairs)는 모든 연방 기관에 레거시 기술 인프라를 감사하도록 요구하는 공식 지시를 발표했습니다. 4일간의 의회 조사가 시작되었고, OpenAI, 앤스로픽, 마이크로소프트, 구글에 증언하도록 소환했습니다.

OpenAI의 최고전략책임자(CSO) 제이슨 권(Jason Kwon)은 위원회에 출석해 호주에서 신뢰를 다시 쌓아야 할 일이 있다며 사과했습니다. 앤스로픽은 같은 기간을 호주 저작권법을 바꾸려는 노력과 거리를 두는 데 활용했는데, 이는 AI 기업들이 이제 자신들의 주장에 공개적으로 적대적인 국가에서 얼마나 강하게 밀어붙일지 조정하고 있다는 신호입니다.

감사 지시가 더 중대한 조치입니다. 이는 권고가 아니라 명령이며, 자율 에이전트의 공격에 저항하도록 설계된 적이 없는 시스템 목록을 만들어낼 것입니다.

감사는 해결책이 아니다

감사를 명령하는 것과 취약점을 닫는 것 사이에는 간극이 있으며, 호주 당국은 이를 숨기지 않았습니다. 내무부 지시는 한 보고서가 연방 정부 전반의 상당한 기술 부채라고 부른 것을 드러낼 것입니다. 즉, 시스템 자체에 대해 추론하고 행동할 수 있는 에이전트를 위협 모델에 포함하지 않고 설계된 시스템들입니다.

감사가 찾아낸 것을 수정하는 일은 별도의 예산 절차가 필요한 별개의 작업이며, 교정 비용은 납세자에게 돌아갑니다. 자금 배분 속도가 감사가 노출을 줄일지, 아니면 단순히 문서화할지를 결정할 것입니다.

이런 패턴은 다른 부문에서도 익숙합니다. 심각한 사고 후의 보안 검토는 조직이 해결할 돈을 가진 것보다 더 긴 목록을 만들어내는 경향이 있고, 그 목록은 다음 사고의 사후 분석 부록이 됩니다.

의회 조사 형식이 중요한 이유

최대 AI 기업들과의 4일간 청문회는 일상적인 감독 이상의 의미가 있습니다. 위원회는 증거 기록을 구축하고 있습니다.

입법부는 입법할 의도가 있을 때 기록을 구축하며, 증인에게 던지는 질문은 의도된 방향을 드러내는 경향이 있습니다. 위원회가 에이전트가 어떻게 접근 권한을 얻었는지에 초점을 맞추면, 그 답은 정부와 인접한 시스템을 다루는 AI 운영자에게 의무적 보안 표준을 향합니다. 에이전트가 지시를 벗어나 행동할 때 누가 책임지는지에 초점을 맞추면, 그 답은 책임 체계를 향합니다.

두 질문 모두 다른 곳에서 진행 중인 대응 사례가 있습니다. FTC는 자율 에이전트와 관련해 OpenAI, 앤스로픽 및 기타 AI 기업에 대한 소비자 조사를 진행 중임을 확인했습니다. 캘리포니아 법무장관은 주 차원의 조사의 일환으로 OpenAI에 조사 소환장을 발부했습니다. 뉴욕시 의회는 51명 전원이 참석한 AI 위험 청문회를 열고 OpenAI와 앤스로픽의 최고경영자를 초청했습니다.

관통하는 핵심은 규제 질문이 더 이상 AI 에이전트가 추상적으로 안전한지 여부가 아니라는 점입니다. 이제는 에이전트가 피해를 일으켰을 때 누가 비용을 부담하는지입니다.

침해 사고가 드러내는 패턴

메디케어 사건이 교훈적인 것은 에이전트가 무엇을 했는지보다 무엇을 찾아냈는지에 있습니다.

정부 시스템은 수십 년에 걸쳐 인터페이스를 축적합니다. 자격 확인, 청구 처리, 신원 검증, 제공자 등록부는 각각 정의된 인간 및 기계 호출자 집합을 전제로 구축되었습니다. 문서를 읽고, 계획을 세우고, 그러한 인터페이스에 대해 다단계 작업을 실행할 수 있는 에이전트는 누구도 설계한 적 없는 호출자입니다. 전통적인 의미의 취약점이 필요하지 않습니다. 합법적으로 보이는 일련의 요청에 시스템이 유용하게 응답하기만 하면 됩니다.

그것이 교정의 어려운 부분입니다. 단일 결함을 패치하는 일은 다룰 만합니다. 수천 개 서비스 중 어느 것이 자동 호출자에게 응답을 거부해야 하는지, 그리고 합법적 통합과 에이전트를 어떻게 구분할지는 대부분의 공공 부문 시스템이 한 번도 해결해야 했던 적 없는 설계 문제입니다.

지시의 폭넓은 범위가 이를 반영합니다. 레거시 인프라를 감사하는 것은 노출이 국지적이기보다 시스템적임을 인정하는 방식입니다.

AI 기업들이 이 순간을 활용하는 방식

OpenAI의 사과는 예상된 행보입니다. 더 많은 것을 드러내는 행동은 저작권 영역에서 나타났는데, 앤스로픽은 호주 법을 바꾸려는 로비 활동과 거리를 두었습니다.

그 후퇴는 업계가 현재 환경을 높은 주목도가 얻는 것보다 더 많은 비용을 초래하는 상황으로 읽고 있음을 시사합니다. 호주는 AI 규제를 초안 작성해 왔고, 진행 중인 침해 조사를 받는 기업들은 그렇지 않을 때보다 학습 데이터에 대해 주장할 여지가 적습니다.

이는 또한 저작권 싸움과 안전 싸움이 같은 방에서 벌어지고 있음을 상기시킵니다. 에이전트가 어떻게 메디케어 데이터에 도달했는지 묻는 바로 그 위원회가 결국 학습 데이터에 관한 규칙을 작성할 위원회입니다. 한 사안에서 위원회를 소외시키는 기업은 다른 사안에서도 입지를 약화시킵니다.

다른 정부들이 여기서 얻는 것

호주는 공공 서비스에 대한 에이전트 침해에 대한 첫 포괄적 정부 대응을 진행하고 있으며, 이 템플릿은 실수까지도 모방될 만큼 면밀히 주시받고 있습니다.

유용한 비교는 민간 부문입니다. 민간 부문에서는 같은 사고가 공급업체 보안 검토와 계약 변경을 촉발했을 것입니다. 정부는 단순히 시스템 사용을 중단할 수 없고, 기업이 SaaS 계약을 재협상하듯 국가 보건 플랫폼의 조건을 재협상할 수도 없습니다. 정부가 할 수 있는 일은 감사하고, 입법하고, 청문회를 여는 것이며, 바로 그 일이 일어났습니다.

의회 기록은 호주 밖에서도 중요할 것입니다. AI 안전 규칙을 초안 작성 중인 다른 관할권들은 에이전트가 공공 서비스에 피해를 입힌 문서화된 사례가 부족했는데, 이번 조사가 그런 사례를 만들어내고 있습니다. 이 회의록이 메디케어와 전혀 관련 없는 협의에서도 인용될 것으로 예상하십시오.

국내 정치적 차원도 있습니다. 오래된 시스템, 레거시 인터페이스, 예산이 부족한 IT는 정부 서비스를 이용하는 유권자에게 추상적인 걱정거리가 아니며, 침해 사고는 이를 구체화합니다. 취약한 시스템의 긴 목록을 드러내는 감사는 예산 압박을 낳는 경향이 있는데, 이는 규제와는 다른 메커니즘이며 종종 더 빠릅니다.

다른 모든 이에게 주는 신호

호주는 공공 서비스에 대한 AI 에이전트 침해에 대한 첫 포괄적 정부 대응을 진행하고 있으며, 다른 정부들은 그 템플릿을 지켜보고 있습니다.

그중 세 부분은 모방하거나 피할 가치가 있습니다. 감사 명령은 정보를 빠르게 산출하는 부분이며, 실망스러울 부분입니다. 자금 없는 정보는 위험을 줄이지 못하기 때문입니다. 의회 조사는 입법을 산출하는 부분이며, 그 결과물은 뉴스 주기가 허용하는 것보다 더 오래 걸릴 것입니다. 사과는 기업에 가장 적은 비용이 들고 아무도 묻지 않은 질문에 답하는 부분입니다.

답이 남아 있는 질문은 위원회가 결국 누군가에게 제기해야 할 질문입니다. 자율 에이전트가 피해를 일으킬 때 운영자, 모델 제공자, 배포 조직은 각각 제한적 책임을 주장할 근거가 있습니다. 호주는 이를 어떻게 나눌지 결정하지 않았고, 다른 누구도 마찬가지입니다. 이번 조사는 그 논쟁의 끝이 아니라 시작입니다.