La conservazione zero era vera. La violazione ha colpito le tre eccezioni.

Il 9 novembre Notion ha pubblicato un avviso di sicurezza. Una violazione presso il suo fornitore di IA, Fireworks AI, ha esposto trascrizioni di chat di Notion AI appartenenti a meno dell'1% degli spazi di lavoro Notion. I sistemi di Notion non sono stati compromessi. L'azienda si è disconnessa da Fireworks il 3 novembre, ha cancellato i dati ospitati lì e ha smesso di mandarle traffico.
Quello che porta questa storia oltre il comunicato stampa è la politica di conservazione. La documentazione di Fireworks dice, in sostanza, che i prompt e i dati di generazione esistono solo in memoria volatile per la durata della richiesta. È conservazione zero, ed era vero per gli endpoint a cui pensa la maggior parte dei clienti.
La stessa documentazione aggiunge che alcune funzioni conservano davvero contenuti dei clienti: le stored responses, i lavori in batch e l'addestramento. La violazione è arrivata al lato che conserva.
La cronologia, come è stata divulgata
Due intrusioni distinte, e la seconda è quella che ha contato.
Il 6 ottobre Fireworks ha rilevato un uso non autorizzato di credenziali interne. L'azienda ha poi dichiarato che in alcuni account colpiti sono state catturate variabili d'ambiente, comprese chiavi API e token conservati come secret.
Poi si è inserito un terzo. Un provider cloud che ospitava le macchine di ricerca e sviluppo di Fireworks ha avuto un incidente di sicurezza il 23 ottobre. Il 24 ottobre una parte non autorizzata ha usato quell'accesso per raggiungere le macchine di sviluppo di Fireworks ed eseguire un carico di lavoro non autorizzato, il che ha portato a un impatto aggiuntivo sui dati dei clienti.
Quello che è stato portato via nel complesso: metadati delle risorse, registri di fatturazione e pagamento, una parte dei dataset di alcuni clienti e pesi di modello incompleti. Fireworks dice di non conservare i numeri di carta dei clienti, e che Inference, l'SDK Training e Nexus non sono toccati perché hanno conservazione zero per impostazione predefinita. La formulazione dell'amministratore delegato aggiunge una parentesi che l'aggiornamento di sicurezza non ha: Inference, esclusa l'inferenza in batch.
Fireworks descrive l'attore come motivato dal denaro, con l'obiettivo di rivendere l'accesso a modelli linguistici di grandi dimensioni tramite gateway di instradamento illeciti. La pratica ha un nome, LLMjacking, e Palo Alto Networks Unit 42 è stata coinvolta per dare una mano.
I quattro giorni di Notion
Il lato Notion è un caso di studio su come si propaga un incidente del fornitore.
La sera del 2 novembre Fireworks ha avvisato Notion che era stato consultato un piccolo dataset. Quel primo dataset conteneva solo dati di test sintetici.

La mattina del 3 novembre Notion aveva già disconnesso Fireworks, cancellato i dati ospitati lì e smesso di mandarle traffico. È una reazione rapida, e non ha impedito l'esposizione successiva, perché i dati erano già stati scritti da Fireworks prima del taglio della connessione. Tagliare la connessione ferma il traffico nuovo, non quello che è già sul disco.
Il 6 novembre Fireworks ha detto che gli attaccanti potevano aver raggiunto anche dati dei clienti. L'8 novembre ha confermato. Il dataset conteneva trascrizioni di Notion AI usate dalla funzione Insights, che mostra ai clienti come i loro team usano Notion AI. Notion ha pubblicato il 9 novembre, ha iniziato a contattare i clienti colpiti e l'11 novembre ha revocato le chiavi API di Notion trovate nei messaggi interessati.
Notion usava Fireworks anche per eseguire modelli a pesi aperti. Quello si è fermato. Insights resta spento finché l'indagine continua.
Il perimetro è più stretto di quanto suggerissero i titoli. Meno dell'1% degli spazi di lavoro. Per la grande maggioranza degli spazi colpiti, le trascrizioni non avevano etichette che identificassero autore o spazio, e non includevano i risultati delle chiamate agli strumenti.
Stretto non vuol dire sicuro. Le persone incollano password, chiavi API e dati dei clienti nelle chat di IA, e quel testo è sensibile che arrivi o no con un nome attaccato. Il consiglio di Notion stesso è trattare quei dati come esposti e ruotare tutto ciò che è stato incollato in Notion AI durante quella finestra.
Perché l'affermazione sulla conservazione e la violazione possono essere entrambe vere
Questa è la parte che i team di sicurezza dovrebbero portarsi a casa, ed è una questione di perimetro, non di onestà. Le due aziende dicono cose che stanno in piedi.
La conservazione zero è una dichiarazione su un percorso di richiesta. Entra un prompt, escono token, e il contenuto vive in memoria per la durata. Sul disco non si scrive nulla. È una proprietà reale e un default davvero buono.
Lo storage è un'altra superficie di prodotto. L'inferenza in batch esiste perché alcuni lavori sono troppo grandi per stare in una richiesta sola, il che significa che input e output vanno scritti da qualche parte finché il lavoro non finisce. Le stored responses esistono perché i clienti hanno chiesto di poterle recuperare dopo. L'addestramento esiste perché l'addestramento è questo.
Quindi un fornitore può tenere in piedi un'affermazione ZDR vera e avere comunque i tuoi dati, perché i dati vivono nei servizi che non sono richieste. Le comunicazioni sulla violazione si leggono esattamente così: l'impatto è stato su sistemi di storage, e le funzioni batch, dataset e response sono quelle che scrivono su storage.
C'è un secondo dettaglio. La politica ZDR è disponibile sugli account Enterprise, e la sua impostazione predefinita risulta disattivata. Per molti clienti, quindi, la ZDR è una cosa che puoi accendere e non una cosa che è accesa.
Niente di tutto questo rende Fireworks un caso strano. Ogni fornitore di inferenza ha questa forma, perché batch e addestramento sono dove stanno i soldi, e entrambi richiedono persistenza. La lezione riguarda il questionario. Chiedere «conservate i miei dati» restituisce un sì o un no su una richiesta. Chiedere «quali endpoint persistono contenuti, per quanto tempo, in quale regione e chi può leggere quello storage» restituisce una risposta su cui puoi agire.
L'economia che ci sta dietro
Il movente spiega perché succede ancora.
Il LLMjacking è arbitraggio, non spionaggio. L'accesso all'inferenza rubato viene rivenduto a gateway di instradamento che vogliono servire traffico verso i modelli senza pagarlo. L'asset rubato è il tuo budget di token e i tuoi limiti di frequenza, e il danno è una fattura più quanto valevano i tuoi dati.
I numeri intorno sono brutti. Railway ha rivelato a fine ottobre che gli attaccanti hanno decifrato variabili d'ambiente di fino a 100.000 spazi di lavoro e generato circa 740.000 dollari di uso fraudolento di IA. Wiz ha contato almeno nove piattaforme di sviluppo IA che hanno divulgato incidenti in ottobre, e ha ricondotto due chiavi enterprise rubate a un solo fornitore, entrambe con prima attività non autorizzata identica entro 30 minuti dall'accesso alle credenziali segnalato.
Trenta minuti. La distanza tra una credenziale che compare nei log di qualcuno e qualcuno che la spende è ormai più corta di una pausa pranzo, il che rende decorative le finestre di rilevamento misurate in giorni.
Cosa fare diversamente
Quattro cose, nell'ordine in cui le farei.
Inventaria la superficie che conserva. Elenca ogni endpoint che il tuo prodotto chiama e dove i dati persistono: lavori in batch, stored responses, dataset, fine-tuning, lavori di valutazione. Se non riesci a elencarli, non puoi valutare la violazione di cui stai per leggere.
Smetti di trattare le trascrizioni di chat come poco sensibili. Sono il canale di segreti più denso nella maggior parte delle organizzazioni, perché una persona incolla un file di configurazione in una casella di chat per fare una domanda su quel file. Qualunque racconto sulla conservazione si applichi, la trascrizione è il gioiello della corona.
Ruota sulla divulgazione, non sulla conferma. Notion ha cancellato e disconnesso il 3 novembre, prima che qualcuno sapesse se c'erano di mezzo dati veri, e ha revocato le chiavi API l'11 novembre quando la scansione le ha trovate. Entrambe le mosse erano giuste.
Dai per scontato il fornitore del fornitore. L'intrusione è partita da un provider cloud che ospitava macchine di sviluppo. La postura di sicurezza del tuo fornitore di IA include aziende di cui non hai mai sentito parlare, e l'unico modo per metterlo nel prezzo è pretendere la divulgazione dei subappaltatori e preferire i fornitori disposti a nominarli.
Il riassunto scomodo
Notion ha fatto quasi tutto bene, si è mossa in meno di dodici ore, e le trascrizioni di chat sono comunque finite esposte. Fireworks ha pubblicato una politica di conservazione esatta e ha subito una violazione che è atterrata nella parte che escludeva. Le due aziende hanno detto la verità e il risultato è rimasto brutto per un piccolo numero di clienti.
Questa è la forma del rischio di filiera nell'infrastruttura IA, ed è il motivo per cui la storia parla di perimetro e non di disonestà. Una politica può essere vera e insufficiente nello stesso momento. Il lavoro sta nel chiedere a quali sostantivi si applica prima di scoprirlo da un avviso.
Articoli correlati
Un foglio di calcolo comunitario di tocchi che spegne la pubblicità negli Android cinesi
Non tocca il sistema, non sblocca niente, non flasha niente. Ribalta solo gli interruttori che i produttori hanno già previsto. Il prezzo è una lista che qualcuno deve continuare a scrivere.
GPT Image 2.6 ha tenuto il prezzo dei token e alzato la fattura
GPT Image 2.6 conserva ogni tariffa per token di 2.5 e costa comunque di più per immagine, perché buona parte del lavoro passa ora nei token di output. Undici giorni dopo il lancio, la struttura dei prezzi dice più della classifica.
Qualcuno ha ricostruito IDM dall'esterno e ha scritto cosa non ha toccato
Una reimplementazione in Rust di Internet Download Manager promette 5 volte la velocità e 86 lingue. Il documento più interessante è il paragrafo che spiega come è stata costruita senza copiare nulla.
Rune è un framework UI per Rust costruito perché un agente possa verificare il proprio lavoro
Rune renderizza headless, esporta il suo albero di elementi e accetta input scriptato, dando a un agente di coding un segnale diffabile che nessuno screenshot può offrire. Il framework è in pre-release e non accetta pull request.