← 返回部落格
Ai預計閱讀 8 分鐘

35 萬個假受害者,和機構說謊的倫理問題

發布於 2026年11月11日
35 萬個假受害者,和機構說謊的倫理問題

公司叫 Apate.ai,取名自希臘的欺騙女神。它跑著大約 35 萬個 AI 代理,唯一的工作就是被騙。

它們接詐騙電話。回釣魚簡訊。點惡意連結。加入那個 WhatsApp 群組,裡面有個假投資顧問在講一個假交易平台。然後做那件讓整套系統成立的事:它們極其配合,而且完全無能。

是的,我這就轉帳。哎喲,金融卡放哪了。不好意思,您再說一遍,我這方面有點遲鈍。

詐騙犯在這通電話上花的每一分鐘,都不是花在一個真實的 78 歲老人身上。

公司自己給的數字

Apate 2024 年從雪梨麥覺理大學的研究裡出來,創辦人 Dali Kaafar 做的是用機器學習分析詐騙電話內容。起源故事是一次家庭野餐和通 44 分鐘的電話,他拖著騙子聊是為了逗小孩,之後意識到時間本身就是防線。

公司自己的數字:約 35 萬個代理,完成超過 250 萬次對話,佔用詐騙犯約 17 年的工作時間,提取超過 25 萬條可行情報。客戶包括澳洲聯邦銀行和 TPG Telecom。TPG 把近 59 萬個可疑來電轉給了代理。聯邦銀行公開報告詐騙損失上報量下降 76%。

八月,公司完成 815 萬美元種子輪,Lobby Capital 領投,OIF Ventures、Investible、Concept Ventures、Baobab Ventures 參與,累計募資略低於 1,000 萬美元。二十名員工。8 月 25 日生效的德拉瓦州重新註冊,下季度計畫開倫敦辦公室。

機制不神祕。詐騙是一門人力生意。他們需要一個人在電話上花二十分鐘,帶受害者走完一次轉帳。如果電話那頭是個成本基本為零的機器人,詐騙的經濟學就反過來了:攻擊者最貴的投入——注意力——被一個不會累、不會用完的東西吃掉。

空蕩的廚房餐桌,室內電話聽筒擱在一邊沒掛好,一只茶杯和一副落下的老花眼鏡

為什麼情報才是產品

浪費時間很爽。但它不是生意。

生意是資料。代理在迷糊「金融卡放哪了」的時候,同時也在收集:騙子要你打錢的銀行帳戶、加密錢包地址、釣魚網域、來電號碼、被冒充的品牌、正在用的腳本。這些打包交給銀行、電信業者和監管機關,他們能在下一個受害者接電話之前封掉帳戶或把網域沉掉。

這改變了反詐的時間位置。傳統防禦在損失之後運作:受害者報案、銀行凍結,錢通常已經不在了。情報優先的防禦在損失之前運作,而那是唯一算得過來的位置。

這也解釋了為什麼電信業者是天然的第一個客戶。TPG 不需要知道騙子是誰。它需要一個在電話到達用戶之前掛掉它的理由。一個接起電話、拿到腳本、回傳判定的 AI,是一個越用越準的來電篩選產品。

不好回答的問題

這裡我不再叫好,因為這是一家產品就是制度化欺騙的公司,它值得比一般暖心故事更多的檢視。

誰有資格部署一個會說謊的 AI? 到目前為止的答案是「一家有銀行當客戶的公司」。那不是法律框架,是採購關係。如果這個技術有效,它會被複製——被催收、被行銷、被政府、被任何想用虛假前提佔用陌生人時間的人。正在形成的先例是「目標是個罪犯時欺騙沒問題」,而這條規則的邊緣非常滑。

騙來的情報有多準? 中文報導裡引用的一位批評者說得最鋒利:一旦騙子知道有誘餌存在,他們就能餵假帳戶和假網域。支付帳戶和釣魚連結幾小時內就失效。資料同時是即時的和低信心的,對銀行的攔截系統來說這是個尷尬的組合。

合理的姿態就是那位批評者建議的:把情報當成加強審核的觸發條件,而不是攔截的依據。交叉核對。給每一條加有效期限。不要讓一個機器人的即興發揮成為合法帳戶被凍結的理由。

當被騙的是代理本身呢? 詐騙電話是針對人的社交工程。腳本是為套資訊設計的,而 LLM 本身就是一個攻擊面極大的資訊提取介面。公司說它用前沿模型加上在真實對話上訓練的專有微調,這是對的答案,也等於承認通用模型會漏。

如果它成立,會是什麼樣

有意思的場景不是「詐騙消失」。是一通詐騙電話的成本漲到邊際詐騙不再賺錢,就像過濾器變好之後垃圾郵件變成低產出生意。

那會是真正的轉變。二十年來,反詐是一個隨損失縮放的成本中心。Apate 提出的反詐產品隨攻擊者體量縮放:詐騙電話越多,情報越多,攔截越好,詐騙電話越少。一個負回饋迴路,而這個行業此前只有正回饋。

也有一個會變難看的版本。如果每家銀行和電信業者都部署自己的誘餌代理群,詐騙生態不會消失,它會變得更擅長辨識人機。語音通話變短,文字管道接管,軍備競賽轉移到防守方資料更少的地方。76% 是某一個市場某一個時點的測量值,它會衰減。

值得拿走的那個東西

把女神名字和募資輪剝掉,這裡有一個能推廣到詐騙之外的想法。

當對手的成本結構依賴人的注意力時,正確的防禦是讓注意力在你這邊免費、在他那邊昂貴。這就是蜜罐,也是 Apate 造的東西——一個有性格的蜜罐,部署在攻擊者分不清今天那四百通電話裡哪些是真的規模上。

機構該不該被允許跑這個,是個沒人回答的政策問題。它有沒有用,是個工程問題,目前只有一個資料點,和掛在上面的 76%。

相關文章