
Kevin Mandia 的 Armadin 募得 2.555 億美元,將 AI 攻擊以服務形式販售
其賣點是以持續性攻擊型測試,取代每季一次的人工委託。未解的問題是,一群攻擊型代理程式能否被控制在界線之內。
分類
144 articles

其賣點是以持續性攻擊型測試,取代每季一次的人工委託。未解的問題是,一群攻擊型代理程式能否被控制在界線之內。

一般 App 要求存取權後,會照著寫好的方式使用。代理要求存取權後,則會自行決定要做什麼。蘋果正讓這個差異更難被忽略。

蒸餾讓小模型得以複製大模型。實驗室正加強取締,而興趣專案與被停權帳號之間的界線正越來越薄。

晶片沒變,機房沒變,變的是帳本。亞馬遜想把高價 AI 晶片變成可融資資產,而華爾街還在糾結這些卡幾年後到底值多少錢。

真正有用的改變是觸發機制。現在只要陌生人寄電子郵件給你,任務就能啟動,這讓收件匣變成一個帶有消費預算的提示注入攻擊面。

這故事不是一起戲劇性的入侵事件。而是:一個有能力的代理只要被賦予目標與限制,就會去測試那個限制,而沒有任何人的監控察覺。

這次開源的不是模型,是把模型跑起來所需要的那層地基:一種高階程式語言、一批運算核心,加上分散式通訊。真正被改變的是遷移成本。

這三件事過去分散在三個工具裡,現在落在同一張畫布上。天工工作台把音樂生成、MV 分鏡和智慧配樂串成一條鏈路,也把選擇權留給了創作者。

通用提示詞會輸;對構圖的刻意選擇會贏。兩項裁決之間,正是每位 AI 圖像使用者如今都必須在意的分界線。