35 萬個假受害者,和機構說謊的倫理問題

公司叫 Apate.ai,取名自希臘的欺騙女神。它跑著大約 35 萬個 AI 代理,唯一的工作就是被騙。
它們接詐騙電話。回釣魚簡訊。點惡意連結。加入那個 WhatsApp 群組,裡面有個假投資顧問在講一個假交易平台。然後做那件讓整套系統成立的事:它們極其配合,而且完全無能。
是的,我這就轉帳。哎喲,金融卡放哪了。不好意思,您再說一遍,我這方面有點遲鈍。
詐騙犯在這通電話上花的每一分鐘,都不是花在一個真實的 78 歲老人身上。
公司自己給的數字
Apate 2024 年從雪梨麥覺理大學的研究裡出來,創辦人 Dali Kaafar 做的是用機器學習分析詐騙電話內容。起源故事是一次家庭野餐和通 44 分鐘的電話,他拖著騙子聊是為了逗小孩,之後意識到時間本身就是防線。
公司自己的數字:約 35 萬個代理,完成超過 250 萬次對話,佔用詐騙犯約 17 年的工作時間,提取超過 25 萬條可行情報。客戶包括澳洲聯邦銀行和 TPG Telecom。TPG 把近 59 萬個可疑來電轉給了代理。聯邦銀行公開報告詐騙損失上報量下降 76%。
八月,公司完成 815 萬美元種子輪,Lobby Capital 領投,OIF Ventures、Investible、Concept Ventures、Baobab Ventures 參與,累計募資略低於 1,000 萬美元。二十名員工。8 月 25 日生效的德拉瓦州重新註冊,下季度計畫開倫敦辦公室。
機制不神祕。詐騙是一門人力生意。他們需要一個人在電話上花二十分鐘,帶受害者走完一次轉帳。如果電話那頭是個成本基本為零的機器人,詐騙的經濟學就反過來了:攻擊者最貴的投入——注意力——被一個不會累、不會用完的東西吃掉。

為什麼情報才是產品
浪費時間很爽。但它不是生意。
生意是資料。代理在迷糊「金融卡放哪了」的時候,同時也在收集:騙子要你打錢的銀行帳戶、加密錢包地址、釣魚網域、來電號碼、被冒充的品牌、正在用的腳本。這些打包交給銀行、電信業者和監管機關,他們能在下一個受害者接電話之前封掉帳戶或把網域沉掉。
這改變了反詐的時間位置。傳統防禦在損失之後運作:受害者報案、銀行凍結,錢通常已經不在了。情報優先的防禦在損失之前運作,而那是唯一算得過來的位置。
這也解釋了為什麼電信業者是天然的第一個客戶。TPG 不需要知道騙子是誰。它需要一個在電話到達用戶之前掛掉它的理由。一個接起電話、拿到腳本、回傳判定的 AI,是一個越用越準的來電篩選產品。
不好回答的問題
這裡我不再叫好,因為這是一家產品就是制度化欺騙的公司,它值得比一般暖心故事更多的檢視。
誰有資格部署一個會說謊的 AI? 到目前為止的答案是「一家有銀行當客戶的公司」。那不是法律框架,是採購關係。如果這個技術有效,它會被複製——被催收、被行銷、被政府、被任何想用虛假前提佔用陌生人時間的人。正在形成的先例是「目標是個罪犯時欺騙沒問題」,而這條規則的邊緣非常滑。
騙來的情報有多準? 中文報導裡引用的一位批評者說得最鋒利:一旦騙子知道有誘餌存在,他們就能餵假帳戶和假網域。支付帳戶和釣魚連結幾小時內就失效。資料同時是即時的和低信心的,對銀行的攔截系統來說這是個尷尬的組合。
合理的姿態就是那位批評者建議的:把情報當成加強審核的觸發條件,而不是攔截的依據。交叉核對。給每一條加有效期限。不要讓一個機器人的即興發揮成為合法帳戶被凍結的理由。
當被騙的是代理本身呢? 詐騙電話是針對人的社交工程。腳本是為套資訊設計的,而 LLM 本身就是一個攻擊面極大的資訊提取介面。公司說它用前沿模型加上在真實對話上訓練的專有微調,這是對的答案,也等於承認通用模型會漏。
如果它成立,會是什麼樣
有意思的場景不是「詐騙消失」。是一通詐騙電話的成本漲到邊際詐騙不再賺錢,就像過濾器變好之後垃圾郵件變成低產出生意。
那會是真正的轉變。二十年來,反詐是一個隨損失縮放的成本中心。Apate 提出的反詐產品隨攻擊者體量縮放:詐騙電話越多,情報越多,攔截越好,詐騙電話越少。一個負回饋迴路,而這個行業此前只有正回饋。
也有一個會變難看的版本。如果每家銀行和電信業者都部署自己的誘餌代理群,詐騙生態不會消失,它會變得更擅長辨識人機。語音通話變短,文字管道接管,軍備競賽轉移到防守方資料更少的地方。76% 是某一個市場某一個時點的測量值,它會衰減。
值得拿走的那個東西
把女神名字和募資輪剝掉,這裡有一個能推廣到詐騙之外的想法。
當對手的成本結構依賴人的注意力時,正確的防禦是讓注意力在你這邊免費、在他那邊昂貴。這就是蜜罐,也是 Apate 造的東西——一個有性格的蜜罐,部署在攻擊者分不清今天那四百通電話裡哪些是真的規模上。
機構該不該被允許跑這個,是個沒人回答的政策問題。它有沒有用,是個工程問題,目前只有一個資料點,和掛在上面的 76%。
相關文章
Antigravity 2.29 把代理搬進雲端 VM,語音只能放行小事
任務改在 Google 託管的雲端 VM 裡跑,蓋上筆電也不停。代價是本機的 MCP 伺服器、外掛與 skills 全部用不到,而語音只准放行不痛不癢的權限。
NVIDIA 放四顆 Cosmos 3 世界模型,還有一個快 25 倍的解碼器
四顆 16B 檢查點加上後訓練配方與程式碼,可以自己調成自家感測器配置。NVIDIA 同時明說:這些模型能否當訓練環境,還有待測量。
GitHub 熱榜四分之一是 agent skills,安裝方式卻有四套
熱榜 15 個倉庫裡有 4 個是 agent skills 合集,第 5 個附了 skill 包裝。採用沒問題,問題是同一個物件有四套互不相容的安裝方式,以及沒人處理的優先順序與信任問題。
Inkling 2 Small 拿下 86.3%,權重卻還要再等一週
Inkling 2 Small 在 SWE-Bench Pro v2 Hard 拿到 86.3%,還能自己微調別人的模型。但 Apache 2.0 權重還沒放出來,也沒給日期。