Black October: AI 플랫폼 아홉 곳이 잃은 것은 코드가 아니라 키였습니다

10월에 AI 개발자 플랫폼 아홉 곳이 보안 사고를 공개했습니다. Wiz Research는 10월 30일 글에서 이것을 Black October라고 부르기 시작했고, 이름은 굳어졌습니다. 패턴이 워낙 일관돼서 누군가 공모했다고 확인된 바는 없는데도 조직된 것처럼 보였기 때문입니다.
공개 순서대로 나열하면 이렇습니다. 10월 6일 Fireworks AI, 9일 Andromeda, 14일 Zeabur, 15일 Lightning AI, 16일과 17일 OpenCode, 20일 Railway, 23일 Warp, 28일 CommandCode, 30일 Northflank입니다. Cloud Security Alliance도 사건들을 연결했습니다. Wiz는 이들을 묶는 단일 취약점이나 의존성이 없고, 공격자들이 하나의 행위자로 공개적으로 연결되지 않았다고 조심스럽게 말합니다.
보고서들이 공유하는 것은 표적입니다. 소스 코드가 아닙니다. 고객 모델도 아닙니다. 학습 데이터도 아닙니다. 환경 변수, 특히 유료 AI 서비스 키를 담은 것들입니다.
훔친 키의 경제학
여기서 이야기는 보안 사건 정리를 그치고 비즈니스 모델이 됩니다. 훔친 모델 키는 직접 써야 하는 도둑에게는 별 가치가 없습니다. 할인된 접근 권한을 재판매할 수 있는 도둑에게는 큰 가치가 있습니다. 구매자는 정가 이하로 프런티어 모델을 쓰고, 판매자는 GPU를 만지지 않으니까요.
Wiz는 벤더 침해에 귀속시킬 수 있는 엔터프라이즈 Amazon Bedrock 키 두 개를 추적했습니다. 첫 번째는 자격 증명 접근이 보고된 지 30분 안에 비인가 활동을 보였습니다. 주거용 IP에서 온 단일 호출로, 여러 조직에 걸쳐 훔친 키를 시험하는 1분짜리 스윕의 일부였습니다. Claude Fable 5.1을 요청했고, 실패하자 Opus 5.5로 폴백해 성공했습니다.
그다음은 인내입니다. 며칠 동안 각 키는 하루 14회에서 120회의 호출만 보였고, 대략 1분 간격으로 같은 작은 Go 클라이언트에서 왔습니다. 생존 확인입니다. 그리고 홍수입니다. 사례 A는 30시간 동안 약 80만 회의 Bedrock 호출을 했고 약 90%가 성공했으며 Opus 모델이 약 4분의 3을 차지했습니다. 사례 B는 13시간 동안 약 170만 회를 돌려 100만 회 넘게 성공했습니다. 정가 기준으로 Wiz는 둘을 합쳐 10만 달러 이상이 청구됐을 것으로 추정합니다.

Wiz는 또한 프런티어 모델의 할인 접근을 광고하는 두 조직을 발견했고, 둘 다 훔친 키를 시험했습니다. 연구진은 그 조직들을 10월 침해와 확정적으로 연결할 수 없다고 명시합니다. 동시에 여러 행위자가 같은 키를 썼다는 사실이 작동하는 시장을 시사한다고도 명시합니다.
문이 열린 방식
진입점은 매번 달랐습니다. 플랫폼을 만드는 사람이라면 누구나 걱정해야 할 부분입니다.
Fireworks AI는 내부 자격 증명의 비인가 사용을 보고했습니다. 제3자가 제한된 수의 고객 계정에서 평가 작업에 쓰이는 환경 변수에 접근했고, 시크릿으로 저장된 API 키와 토큰이 탈취된 것으로 본다고 밝혔습니다. BleepingComputer 보도에 따르면 Zeabur는 10월 14일과 15일 공격자가 유출된 내부 자격 증명을 사용했고 결국 플랫폼 데이터베이스를 읽었다고 했습니다. 320만 건이 넘는 환경 변수 레코드와 321,810개 계정 정보입니다. 관리자 토큰에 만료가 없었고 2024년 1월 이후 교체되지 않았다고도 했습니다. Railway의 잠정 견해는 빌드 인프라의 권한 상승이었습니다. Warp는 제3자 벤더 의존성을 지목했습니다. OpenCode는 레거시 시스템을 지목했습니다. Lightning AI는 이전 공급망 캠페인에서 이미 공격받은 적이 있었습니다.
두 사건은 벤더들이 증류 시도로 규정했습니다. 다른 모델의 출력으로 자기 모델을 학습시키는 일입니다. Fireworks와 OpenCode, Warp 모두 '에이전트 군집' 공격의 징후를 보고했습니다. 쓰기 이상한 문장이지만, 지금 상황이 그렇습니다. 자동화된 에이전트가 자동화된 플랫폼을 찔러 보며 누군가의 추론 예산을 여는 환경 변수 하나를 찾고 있습니다.
Zeabur의 결말은 곱씹어 볼 만합니다. 회사는 종료한다고 밝혔습니다. 12월 1일부터 갱신이 막히고, 공유 클러스터 서비스가 중단되고, 12월 31일까지 모든 서버가 꺼집니다. 침해가 기여 요인으로 언급되었습니다. 호스팅 플랫폼은 보통 한 번의 사고로 죽지 않습니다. 남은 모든 고객이 자기 시크릿이 안전한지 묻기 시작하고, 그 답이 만료 없는 토큰에 관한 문단일 때 죽습니다.
사람들이 잘못 이해하는 지시
Northflank는 10월 30일 고객에게 플랫폼에 보관한 모든 환경 변수가 복호화되었다고 가정하고 모든 시크릿을 교체하라고 했습니다. Fireworks도 자체 공지에서 같은 말을 했고, 모니터에 붙여둘 만한 문장입니다. 저장된 시크릿을 삭제해도 기반 자격 증명은 폐기되지 않습니다.
플랫폼에서 환경 변수를 지우면 당신의 사본만 지워집니다. 발급자의 키는 건드리지 않습니다. 키는 여전히 유효하고, 여전히 과금되고, 재판매되었다면 여전히 다른 사람의 클라이언트 안에 있습니다. 교체는 OpenAI나 Anthropic, Bedrock, 또는 발급한 곳에서 해야 하고, 로그를 들여다보기 전에 해야 합니다. 로그는 그들이 무엇을 했는지 알아내는 수단이지, 그들을 막는 수단이 아니니까요.
탐지 지침은 구체적입니다. Bedrock은 InvokeModel, InvokeModelWithResponseStream, Converse, ConverseStream을 관리 이벤트로 CloudTrail에 기록하고, 기본으로 기록됩니다. 10월 1일부터 Wiz가 공개한 주소를 검색하되, 적중은 증거가 아니라 단서임을 알고 하십시오. 평소 한 리전에 머무는 키가 글로벌 추론 프로필을 요청하는지, boto3 사용자 에이전트의 쿼터 열거가 있는지, 실패한 호출 몇 초 뒤 다른 모델로 갈아타는지 보십시오.
거의 다뤄지지 않은 아키텍처 메모가 하나 있습니다. CloudTrail은 Bedrock API 키 뒤의 IAM 정체성을 기록할 뿐, 키 자체를 기록하지 않습니다. 모든 외부 플랫폼이 하나의 정체성을 공유하면 어느 플랫폼이 유출했는지 알 수 없습니다. 각자 따로 주십시오.
고객이라면 이것이 의미하는 것
이 플랫폼을 쓰는 대부분의 팀은 별난 걸 돌리지 않습니다. 프리뷰 환경, 평가 작업, Railway 서비스에서 환경 변수에 키를 넣고 모델을 호출하는 프로토타입. 그게 출시하는 가장 빠른 방법이었으니까요. 노출은 애플리케이션의 설계 결함이 아닙니다. 기본값입니다.
값싼 변경 세 가지가 있습니다. 키마다 지출 상한을 걸어 재판매 조직이 주말에 여섯 자리 청구서를 만들지 못하게 하십시오. 프로젝트별 키를 발급해 폐기를 외과적으로 하십시오. 비정상 모델 사용에 알림을 거십시오. 하루 100회에서 10만 회로 뛰는 건 미묘하지 않고, 대부분의 청구 대시보드는 누군가 보안 블로그를 읽기 몇 시간 전에 보여줍니다.
어느 것도 근본 문제의 해결은 아닙니다. 업계가 2년 동안 고가치 자격 증명을 저신뢰 장소에 넣는 일을 터무니없이 쉽게 만들어 왔다는 문제입니다. 플랫폼이 편리한 이유는 정확히 당신 대신 시크릿을 처리해 주기 때문입니다. 그 편의가 공격 표면입니다. 10월은 그 값이 매겨진 달이었습니다.