AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

Meta AI 客服機器人成了帳號綁架工具:Instagram 通知受駭用戶

摘要: 404 Media 於 2026 年 6 月 1 日披露,攻擊者向 Meta AI 客服機器人謊稱擁有他人 Instagram 帳號,成功改綁信箱並重設密碼。TechCrunch 於 6 月 3 日報導 Instagram 已通知受影響用戶,Meta 稱問題已修復但未公布受害數量。文章指出敏感操作必須有對等驗證、真人申訴管道與異常偵測。

404 Media 在 2026 年 6 月 1 日披露了一起手法簡單到近乎離譜的入侵事件:攻擊者直接向 Meta 的 AI 客服機器人開口,聲稱某個 Instagram 帳號歸自己所有,並要求機器人把該帳號改綁到攻擊者掌控的信箱——機器人真的照做了。整個過程沒有任何 Meta 員工經手,受害者在事後也找不到能把案子轉交真人的管道。

隔了兩天,到了 6 月 3 日,TechCrunch 指出 Instagram 已著手通知這波攻擊鎖定的對象,內容寫著 Meta「偵測到一些可疑活動,顯示你的 Instagram 可能已遭入侵」。這起事件同時把整個業界正搶著採用的架構選擇照得一覽無遺:一旦把帳號救援與密碼重設的權限交給 AI 代理,這個代理驗證身分有多嚴,就決定了整套系統安全的天花板在哪裡。

攻擊手法:把聊天機器人變成社交工程標的

這場攻擊幾乎用不上任何技術。404 Media 取得的 Telegram 影片與截圖顯示,駭客把目標帳號的用戶名連同自己的信箱一併傳給機器人,意思大概是「把我的新信箱連上來,這是我的用戶名」;驗證碼一補上,綁定便宣告完成。駭客隨即重設密碼,帳號從此換了主人,真正的擁有者只能被擋在登入之外。

背景得從 2026 年 3 月說起:Meta 當時把 AI 支援功能推上 Facebook 與 Instagram,宣傳文案主打「提供解決方案,而不只是建議」,聲稱帳號問題能從頭到尾一路辦到底,還能「安全地重設你的密碼」。換言之,這個代理被授權執行帳號層級的敏感操作,但它的身分驗證顯然配不上這份權限——受害者手邊更沒有「要求真人介入」的選項。

受害者名單與 OG 帳號地下市場

看看誰中了招,就知道波及面有多大:歐巴馬任內的白宮官方帳號,據傳在 5 月 31 日前後也遭同一手法入侵(Meta 對此說法有異議);美國太空軍總軍士長 John Bentivegna 的帳號則在 5 月 31 日晚間落入親伊朗駭客手中數小時,對方貼出親伊朗的圖文,直到週一凌晨才遭移除,太空軍發言人證實帳號確實遭入侵。Sephora 的帳號同樣傳出中鏢。

不過大多數受害者仍是一般用戶,背後的誘因是「OG 帳號」的灰色交易——由常見英文名、國家名這類短網名構成的帳號,多年來在地下市場一直喊得出價格。這批駭客在 Telegram 頻道裡交流手法、兜售偷來的帳號;X 平台上則有大量用戶公開抱怨帳號被搶走。

Meta 怎麼回應,以及還沒解答的疑問

Meta 發言人 Andy Stone 週一表示「確實發生的問題已經修復」,並預告部分用戶將收到密碼重設通知,其他人登入時則要先回答安全問題;Meta 在當天先把受影響的帳號保住,才寄出重設郵件——也就是 6 月 3 日報導裡的那波通知。

只是有兩件事始終沒有答案:其一,Meta 拒絕透露究竟有多少用戶受害;其二,截至 TechCrunch 發稿,Telegram 上依舊有人討論這套手法、兜售搶來的帳號,而各起個案是否出自同一手法也難以查證——「已修復」三個字的含金量,目前無從檢驗。

給所有要打造 AI 客服代理的團隊

任何打算把 LLM 接上客服流程的團隊,都值得把這起事件逐行讀過。第一課:權限得靠驗證來撐——一個能改綁信箱、能重設密碼的代理,驗證強度就必須比照真人客服,不能因為對方「自稱是帳號主人」就放行;畢竟對 LLM 發動社交工程幾乎不花成本,還可以無限重試。第二課:「轉不了真人」本身就是設計缺陷——申訴無門,攻擊才能悄悄跑完全程。第三課:涉及敏感操作的環節要有異常偵測——一個帳號在短時間內先被改綁信箱、又被重設密碼,無論如何都該觸發攔截。

把鏡頭拉遠:同一週,Anthropic 發布的 AI 網絡威脅分析指出,攻擊方正把 AI 納入攻擊鏈;而 Meta 這次則補上另一半事實——防守端的 AI 代理,同樣會被當成突破口。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 防禦端開始拿得到前沿模型:Anthropic 把火力對準關鍵基礎設施和開源碼

    Anthropic 推出長期計畫,以 Claude 模型、駐點工程師與免費的 OSS Scanner 支援關鍵基礎設施防禦者和開源維護者。

    Anthropic

  2. 蒸餾攻擊不是理論:Anthropic 揭露 DeepSeek、Moonshot、MiniMax 的 1,600 萬次提取

    Anthropic 在 2026 年 2 月揭露三家 AI 實驗室透過 24,000 個詐騙帳號,對 Claude 發動工業級蒸餾攻擊。本文從產品建構者角度,解析攻擊手法、偵測機制,以及這對 API 安全與出口管制的啟示。

    AI Safety

  3. 偷走 AI 的思考:兩次 API 呼叫還原隱藏推理鏈

    德國研究團隊利用同家族較弱模型與越獄提示,兩次 API 呼叫還原加密思考區塊的推理原文;公開代理軌跡中更發現大量 API 金鑰與密碼。

    Security