谷歌 Gemini 語音助理曝漏洞,黑客利用特殊構造通知信息為 AI“下毒”

重點摘要
安全公司披露 Gemini 新型漏洞“偽上下文對齊”,黑客可通過 WhatsApp、短信等渠道發送含隱藏指令的通知,誘導 AI 執行未經授權的敏感操作,如操控智能家居、篡改通訊錄。#AI 安全# #谷歌 Gemini# 研究指出 AI 在多語言與語音交互場景下的授權確認機制仍需加強。
### 谷歌 Gemini 語音助理驚傳安全漏洞:黑客利用通知訊息對 AI「下毒」
近日,一項由安全研究機構揭露的重大漏洞將 Google 旗下 Gemini 語音助理推向資安風暴中心。該漏洞被命名為「偽上下文對齊」(Fake Context Alignment),攻擊者能透過 WhatsApp、簡訊等常見即時通訊管道,傳送經過特殊構造的通知訊息,進而誘導 Gemini 執行未經授權的敏感操作。這項發現凸顯了 AI 在語音與多語言互動場景下,身分驗證與授權機制的脆弱性,也為廣大智慧型裝置用戶敲響警鐘。
### 漏洞運作原理:隱藏在日常通知中的「隱形指令」
「偽上下文對齊」漏洞的核心,在於 Gemini 語音助理在處理來自不同來源的通知時,未能確實區分正常對話內容與惡意注入的指令。黑客先透過 WhatsApp、iMessage 或 SMS 發送看似無害的文字訊息,並在其中嵌入一連串隱藏指令;當用戶的手機收到通知並顯示於螢幕上時,Gemini 的語音喚醒或文字解析機制可能誤將這串指令視為合法的上下文,從而觸發後續動作。例如,一則假裝是快遞配送通知的訊息,實際上可能暗藏「開啟前門鎖」「撥打國際電話」或「刪除通訊錄」等危險指令。
### 潛在危害:智慧家居失控、個人資料遭篡改
一旦漏洞被成功利用,Gemini 語音助理便可能成為黑客的「提線木偶」。最直接的影響是智慧家庭裝置的異常操控——入侵者可以遠端解鎖門鎖、調整空調溫度或關閉保全系統,對居家安全構成實質威脅。此外,通訊錄、行事曆、備忘錄等個人資料也可能被悄無聲息地篡改或刪除;若 Gemini 同時綁定了 Google 雲端服務,甚至存在電子郵件發送、檔案存取等進階權限被濫用的風險。這些操作往往在用戶毫無察覺下發生,等到發現異常時,損失可能已經造成。
### 背景脈絡:語音 AI 普及下的授權漏洞
Gemini 作為 Google 推出的多模態 AI 模型,廣泛整合於 Android 手機、智慧音箱及車載系統,其語音互動功能尤其強調「無縫體驗」。然而,正是這種追求便利性的設計,導致了 security 與 usability 之間的失衡。安全研究員指出,Gemini 在處理多語言訊息時,缺乏對通知來源的嚴格校驗;舉例來說,一份來自陌生號碼的簡訊,若以特定語法包裹指令,便可能繞過用戶的確認步驟,直接觸發 AI 的執行序列。先前類似漏洞曾在其他語音助理身上出現,但 Gemini 因整合了更多第三方應用程式,風險面更加廣泛。
### 可能影響:從個人隱私到企業供應鏈
這起事件不僅影響一般消費者,企業用戶同樣需要警惕。許多公司已將 Gemini 整合到內部協作工具或客服系統中,一旦黑客利用「偽上下文對齊」漏洞滲透內部通訊,便可能引發供應鏈攻擊。例如,攻擊者可偽裝成合作夥伴,透過 Slack 或 Microsoft Teams 傳送惡意通知,進而操控與 Gemini 連結的企業資源管理系統。此外,由於漏洞涉及跨平台通知(如 iOS 與 Android 間的互通),攻擊面更難全面封堵。儘管 Google 尚未公佈受影響用戶數量,但鑑於 Gemini 在全球的覆蓋率,潛在影響範圍不容小覷。
### 安全研究觀點:AI 授權機制亟待強化
參與分析這項漏洞的安全公司表示,「偽上下文對齊」問題的本質在於 AI 對「授權邊界」的認知模糊。目前主流語音助理普遍採用「先執行、後確認」或「部分語境許可」的設計,卻缺乏對輸入內容是否經過用戶主動驗證的嚴格判斷。研究團隊特別強調,在多語言與語音混合場景(例如同時接收語音指令與
Related
相關文章

因批評 AI 數據中心迅速擴張,多名亞馬遜工程師遭內部調查
亞馬遜多名工程師因公開批評AI數據中心快速擴張,遭到公司內部調查。亞馬遜告知員工,調查可能導致紀律處分,甚至明確警告最嚴重後果為解僱。此舉使受調查員工深感威脅,並對就業穩定性產生不安。

因用 AI 編造證據材料,英國一警員面臨刑事調查
英國德比郡一名警探涉嫌利用警局內部AI聊天機器人,刻意下達偏頗指令以捏造有利於起訴的證據,包括誇大被害者影響聲明,目前該警員已遭停職並面臨「妨礙司法公正」的刑事調查。此案為英國首起執法人員濫用AI干預司法的事件,可能影響其經手案件的判決效力,也引發對警方導入AI技術監管機制的檢討。

AI 賬單失控:AT&T、Meta 等巨頭急剎車,從“瘋狂消耗”到“嚴苛限制”
科技媒體 The Information 昨日(6 月 18 日)發佈博文,報道稱包括 AT&T、Meta、Uber、微軟在內的諸多科技公司已嚴苛限制內部 AI 工具使用,正從鼓勵 AI 無限使用(tokenmaxxing)轉向嚴格限制(tokenminimizing)。

蓋洛普最新研究:不經常使用 AI 的員工更容易成為被裁員對象
這篇消息聚焦「蓋洛普最新研究:不經常使用 AI 的員工更容易成為被裁員對象」。原始導語提到:在美國科技行業,每月至少使用一次 AI 的員工,預計遭裁員的概率約為 6%;使用 AI 較少的員工,預計遭裁員的概率達到 18%,是前者的三倍。 從 AI 情報角度來看,這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。

皮尤研究中心民調:63% 美國人認為 AI 發展速度過快
這篇消息聚焦「皮尤研究中心民調:63% 美國人認為 AI 發展速度過快」。原始導語提到:49% 的美國人偶爾會使用聊天機器人,63% 則認為 AI 發展速度過快。2024 年,使用過 AI 聊天機器人的受訪者比例只有 33%。 從 AI 情報角度來看,這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。

Anthropic CEO 阿莫迪:公司治理機構隨時有權解僱我
Anthropic CEO 阿莫迪接受採訪時表示,AI 技術主要由私營企業推動,他本人並不完全認同此模式。為防範權力濫用,公司設立了“長期利益信託”治理結構,該機構有權撤換董事會成員甚至解僱 CEO。他強調,政府與企業應合作引入公共監督機制,確保 AI 安全發展。#AI 治理##Anthropic#