← 블로그로
Ai약 14 분 읽기

제로 데이터 보존은 사실이었다. 침해는 그것이 제외한 세 가지에 떨어졌다

게시일 2026년 11월 15일
제로 데이터 보존은 사실이었다. 침해는 그것이 제외한 세 가지에 떨어졌다

11월 9일, Notion이 보안 권고문을 냈습니다. AI 벤더인 Fireworks AI에서 발생한 침해로 Notion AI 채팅 기록이 유출됐고, 영향을 받은 워크스페이스는 전체의 1% 미만입니다. Notion 자체 시스템이 뚫린 것은 아닙니다. 회사는 11월 3일 Fireworks와의 연결을 끊고 그쪽에 보관된 데이터를 삭제했으며 트래픽 전송도 중단했습니다.

이 사건을 단순한 속보 이상으로 만드는 것은 보존 정책 쪽입니다. Fireworks 문서에는 프롬프트와 생성 데이터가 요청이 처리되는 동안에만 휘발성 메모리에 존재한다는 취지가 적혀 있습니다. 그것이 제로 데이터 보존이고, 대부분의 고객이 떠올리는 엔드포인트에 대해서는 이 설명이 맞았습니다.

같은 문서는 몇몇 기능은 실제로 고객 콘텐츠를 저장한다고 덧붙입니다. stored responses, 배치 작업, 그리고 학습입니다. 이번 침해는 저장하는 쪽에 떨어졌습니다.

공개된 타임라인

침입은 두 번 있었고, 효과를 낸 것은 두 번째입니다.

10월 6일, Fireworks는 내부 자격 증명이 무단으로 사용된 것을 탐지했습니다. 회사는 이후 일부 영향받은 계정에서 secret으로 보관되던 API 키와 토큰을 포함한 환경 변수가 탈취됐다고 밝혔습니다.

그다음 제3자가 끼어듭니다. Fireworks의 연구개발 장비를 호스팅하던 클라우드 사업자에서 10월 23일 보안 사고가 났습니다. 10월 24일, 권한 없는 쪽이 그 경로로 Fireworks 개발 장비에 접근해 무단 워크로드를 돌렸고, 이것이 추가적인 고객 데이터 영향으로 이어졌습니다.

두 사건을 통틀어 빠져나간 것은 리소스 메타데이터, 청구 및 결제 기록, 일부 고객 데이터셋의 일부분, 그리고 불완전한 모델 가중치입니다. Fireworks는 고객 카드 번호는 저장하지 않는다고 밝혔고, Inference와 Training SDK, Nexus는 기본값이 제로 데이터 보존이라 영향을 받지 않았다고 설명합니다. CEO의 표현에는 보안 공지에는 없는 괄호가 하나 붙습니다. Inference, 단 batch inference는 제외.

Fireworks는 행위자를 금전적 동기로 규정합니다. 불법 라우팅 게이트웨이를 통해 대규모 언어 모델 접근 권한을 파는 것이 목적입니다. 이 수법에는 이름이 있습니다. LLMjacking이고, Palo Alto Networks의 Unit 42가 지원에 투입됐습니다.

Notion의 나흘

Notion 쪽은 벤더 사고가 어떻게 번지는지를 보여주는 사례입니다.

11월 2일 저녁, Fireworks는 작은 데이터셋 하나가 접근됐다고 Notion에 알렸습니다. 그 첫 데이터셋에는 합성 테스트 데이터만 들어 있었습니다.

어두운 데이터센터에 늘어선 서버 랙과 파란 표시등

11월 3일 아침이 되기 전에 Notion은 Fireworks 연결을 끊고, 그쪽에 보관된 데이터를 삭제하고, 트래픽을 멈췄습니다. 빠른 대응이었지만 이후의 노출은 막지 못했습니다. 연결을 끊기 전에 데이터는 이미 Fireworks 쪽에 기록돼 있었기 때문입니다. 연결을 끊으면 새 트래픽은 막히지만, 이미 내려앉은 것은 막히지 않습니다.

11월 6일, Fireworks는 공격자가 고객 데이터에도 닿았을 수 있다고 밝혔습니다. 11월 8일 확인했습니다. 데이터셋에는 Insights 기능에 쓰이던 Notion AI 채팅 기록이 들어 있었습니다. Insights는 팀이 Notion AI를 어떻게 쓰는지 고객에게 보여주는 기능입니다. Notion은 11월 9일 공개하고 영향받은 고객에게 연락을 시작했으며, 11월 11일에는 영향받은 메시지에서 발견된 Notion API 키를 폐기했습니다.

Notion은 오픈 웨이트 모델을 돌리는 데도 Fireworks를 썼습니다. 그 경로는 중단됐습니다. Insights는 조사가 이어지는 동안 꺼져 있습니다.

범위는 헤드라인이 준 인상보다 좁습니다. 워크스페이스의 1% 미만입니다. 영향받은 대부분의 워크스페이스에서 기록에는 작성자나 워크스페이스를 식별하는 라벨이 붙어 있지 않았고, 도구 호출 결과도 포함되지 않았습니다.

좁다고 안전한 것은 아닙니다. 사람들은 비밀번호와 API 키, 고객 정보를 AI 채팅창에 붙여 넣고, 그 텍스트가 민감한지는 이름표가 함께 왔는지와 무관합니다. Notion 자체 권고는 이 데이터를 이미 노출된 것으로 취급하고, 해당 기간에 Notion AI에 붙여 넣은 것은 모두 교체하라는 것입니다.

보존 주장과 침해가 동시에 성립하는 이유

보안팀이 가져가야 할 지점입니다. 초점은 범위에 있고, 정직함과는 다른 문제입니다. 두 회사의 설명은 각각 앞뒤가 맞습니다.

제로 데이터 보존은 요청 경로에 대한 선언입니다. 프롬프트가 들어오고 토큰이 나가며, 콘텐츠는 그동안 메모리에 있습니다. 디스크에는 아무것도 쓰이지 않습니다. 실재하는 속성이고, 기본값으로 따져도 좋은 선택입니다.

스토리지는 다른 제품 면입니다. batch inference가 존재하는 이유는 한 번의 요청으로 답하기에 너무 큰 작업이 있어서이고, 그러려면 입력과 출력을 작업이 끝날 때까지 어딘가에 써야 합니다. stored responses가 존재하는 이유는 고객이 나중에 다시 꺼내겠다고 요구했기 때문입니다. 학습이 존재하는 이유는 학습이 원래 그렇기 때문입니다.

그래서 벤더는 진짜 ZDR 주장을 걸어 둔 채로 고객 데이터도 함께 들고 있을 수 있습니다. 데이터가 요청이 아닌 서비스에 살기 때문입니다. 이번 공개는 정확히 그렇게 읽힙니다. 영향은 스토리지 시스템에 있었고, batch와 dataset, response 기능이 바로 스토리지에 쓰는 기능입니다.

디테일이 하나 더 있습니다. ZDR 정책은 Enterprise 계정에서 쓸 수 있고, 기본값은 꺼짐입니다. 많은 고객에게 ZDR은 켤 수 있는 것이지 켜져 있는 것이 아닙니다.

그렇다고 Fireworks가 특별한 것은 아닙니다. 추론 벤더는 모두 이 모양입니다. 돈이 batch와 학습에서 나오고, 둘 다 영속화를 요구하기 때문입니다. 교훈은 설문지 쪽에 있습니다. "데이터를 보존하나요"라고 물으면 요청 하나에 대한 예 또는 아니오가 돌아옵니다. "어떤 엔드포인트가 콘텐츠를 영속화하고, 얼마 동안, 어느 리전에, 누가 그 스토리지를 읽을 수 있나요"라고 물으면 조치로 이어지는 답이 돌아옵니다.

뒤에 있는 경제

동기가 이 일이 반복되는 이유를 설명합니다.

LLMjacking이 하는 일은 차익 거래이고, 첩보 활동과는 거리가 멉니다. 훔친 추론 접근 권한은 모델 트래픽을 돈 안 내고 처리하려는 라우팅 게이트웨이에 되팔립니다. 훔쳐지는 자산은 고객의 토큰 예산과 요청 한도이고, 피해는 청구서에 데이터가 원래 갖던 값어치를 더한 것입니다.

주변 숫자는 좋지 않습니다. Railway는 10월 말 최대 100,000개 워크스페이스의 환경 변수가 복호화됐고 약 74만 달러 규모의 부정 AI 사용이 발생했다고 공개했습니다. Wiz는 10월에 최소 아홉 개 AI 개발자 플랫폼이 사고를 공개했다고 집계했고, 탈취된 엔터프라이즈 키 두 개를 같은 벤더로 추적했습니다. 둘 다 최초 무단 활동 시점이 보고된 자격 증명 접근 이후 30분 이내로 정확히 일치했습니다.

30분. 자격 증명이 누군가의 로그에 나타나고 누군가 그것을 쓰는 사이의 간격이 이제 점심시간보다 짧습니다. 일 단위로 재는 탐지 창은 장식입니다.

다르게 해야 할 것

네 가지, 내가 한다면 이 순서로 하겠습니다.

저장되는 면을 목록화하십시오. 제품이 호출하는 엔드포인트 가운데 데이터가 남는 것을 전부 적으십시오. 배치 작업, stored responses, 데이터셋, 파인튜닝, 평가 작업입니다. 목록을 못 만들면 곧 읽게 될 침해도 평가할 수 없습니다.

채팅 기록을 저민감 데이터로 다루는 것을 그만두십시오. 대부분의 조직에서 그곳은 밀도가 가장 높은 비밀 통로입니다. 설정 파일에 대해 묻고 싶은 사람이 그 파일을 채팅창에 붙여 넣기 때문입니다. 어떤 보존 설명이 적용되든 기록은 왕관의 보석입니다.

공개되면 교체하고, 확인을 기다리지 마십시오. Notion은 11월 3일 실제 데이터가 관련됐는지 아무도 모르는 시점에 삭제와 연결 해제를 끝냈고, 11월 11일에는 스캔에서 나온 API 키를 폐기했습니다. 둘 다 옳았습니다.

벤더의 벤더를 전제에 넣으십시오. 이번 침입은 개발 장비를 호스팅하던 클라우드 사업자에서 시작됐습니다. 고객의 AI 벤더 보안 태세에는 들어본 적 없는 회사들이 포함됩니다. 그것을 비용에 반영하는 방법은 하도급 업체 공개를 요구하고, 이름을 밝히는 벤더를 고르는 것뿐입니다.

불편한 요약

Notion은 대부분 옳게 움직였고, 12시간 안에 손을 썼고, 그래도 채팅 기록은 노출됐습니다. Fireworks는 정확한 보존 정책을 공개했고, 침해는 그것이 제외한 부분에 떨어졌습니다. 두 회사 모두 사실을 말했고 결과는 소수 고객에게 나빴습니다.

이것이 AI 인프라에서 공급망 위험이 갖는 모양이고, 이 이야기의 초점이 범위에 있는 이유입니다. 정책은 참이면서 동시에 불충분할 수 있습니다. 할 일은 권고문으로 알게 되기 전에 그 정책이 어떤 명사에 적용되는지 먼저 묻는 것입니다.

관련 글