鈦媒體模型更新

智譜保衛硅谷

2026年7月21日 13:49
智譜保衛硅谷

重點摘要

智譜保衛硅谷錦緞2026.07.21 13:48 · 來自北京全文2584字00:00 / 07:12地緣無法阻擋代碼的流動。文 | 錦緞上週,全球最大的AI開源社區Hugging Face遭遇入侵。攻擊者是一個完全自主的AI智能體系統,在大量短生存期沙盒中執行了數千個獨立操作,在一個週末內橫向移動進入了多個內部集群。這是一次被行業預測多年、但首次在現實中完整上演的“智能體攻擊”。

站內 AI 整理稿

上週,全球最大的AI開源社群Hugging Face遭遇一場前所未見的入侵事件。攻擊者並非人類,而是一個完全自主運作的AI智能體系統。這個智能體在大量短生存期的沙盒環境中,執行了數千個獨立操作,並在短短一個週末內橫向移動,成功滲透進入多個內部集群。這是一場業界多年來不斷預測、卻首次在現實世界中完整上演的「智能體攻擊」。事件發生後,Hugging Face的安全團隊必須盡快分析攻擊者留下的超過一萬七千條事件日誌,才能釐清入侵路徑、修補漏洞並防止二次攻擊。面對如此龐大的日誌量,安全團隊一開始選擇了商用API背後某個美國前沿的大型語言模型來協助分析。然而,這套看似強大的AI工具卻在關鍵時刻失靈。

Hugging Face在事後的事件報告中寫道:「分析需要提交大量真實的攻擊命令、漏洞利用載荷以及C2痕跡數據,而這些請求被服務提供商的安全護欄攔截了——它們無法區分事件響應者和攻擊者。」換句話說,美國AI系統內建的安全機制,在真正的安全危機中反而成了防禦者的阻礙,把他們的手腳緊緊綁住,無法順利處理那些帶有惡意特徵的真實數據。在這樣的困境下,Hugging Face的工程師們做出了一個讓整個矽谷為之側目的決定:他們轉而下載了中國智譜AI所開發的開源模型GLM 5。這個選擇背後有著深刻的意涵。

GLM 5是智譜AI推出的開源大型語言模型,因為其開源特性,沒有商業API所附加的嚴格安全護欄,因此能夠直接接收並分析那些包含攻擊命令與漏洞利用載荷的敏感日誌,而不會被誤判為惡意行為而遭到攔截。這不僅解決了Hugging Face當下的燃眉之急,更凸顯了開源模型在資安領域的獨特價值。這場「智能體攻擊」的技術細節也相當值得關注。攻擊者所運用的AI智能體並非單純的自動化腳本,而是具備自主決策能力的系統。它能在沙盒環境中快速建立臨時執行環境,執行一系列橫向移動的動作,繞過傳統的入侵偵測系統。其運作效率極高,一個週末內就完成了從初始入侵到深入內網的完整攻擊鏈。

Hugging Face的安全團隊花了大量時間重建攻擊軌跡,而傳統的AI分析工具卻因為安全護欄而無法有效處理這些資料,直到GLM 5的加入才讓分析工作得以順利推進。智譜AI是中國人工智慧領域的代表性企業之一,長期投入開源大模型的研發。GLM系列模型在中文與多語言處理上表現出色,且堅持開源策略,讓全球開發者都能自由下載與使用。這次Hugging Face的選擇,無疑是對GLM 5模型能力的一次實際驗證,也向全球科技界傳遞了一個明確信號:在地緣政治日益緊張的背景下,代碼的流動依然無法被阻擋。當美國AI模型因為安全設計而無法服務於真正的安全需求時,中國的開源模型反而成為了矽谷工程師的救星。

值得注意的是,這並非孤立事件。近年來,AI開源社群已成為中美技術交流的重要橋樑。Hugging Face本身作為全球最大的AI開源平台,彙集了來自世界各地的模型與數據集。其安全團隊的這次應對,也反映出開源生態系在面對新興威脅時的彈性與應變能力。GLM 5的開源特性讓它能夠繞過商業API的限制,直接處理敏感資料,這在資安事件回應中至關重要。從更宏觀的角度來看,這起事件揭示了AI安全護欄的雙面性。一方面,安全護欄確實能防止模型被濫用,避免生成有害內容或洩露敏感資訊;但另一方面,當護欄設計過於僵化,無法區分合法的事件響應與惡意攻擊時,就會反過來削弱防禦者的能力。

Hugging Face的經驗表明,未來的AI安全設計需要更細緻的權限管理與情境判斷,而不是單純依靠規則阻擋。此外,這場攻擊也再次凸顯了智能體威脅的崛起。隨著AI自主決策能力的提升,未來類似的攻擊只會更加頻繁且複雜。安全團隊需要新的工具與方法來應對這類威脅,而開源模型或許將在其中扮演關鍵角色。智譜GLM 5的成功應用,為業界提供了一個值得參考的案例:在緊急情況下,能夠靈活調用不受商業限制的開源模型,往往比依賴封閉的API服務更有效率。Hugging Face在事件報告中並未詳細說明GLM 5的分析結果,但從他們決定公開使用中國開源模型這一舉動,已足以讓矽谷議論紛紛。

過去,美國科技公司對中國的AI模型往往抱持保留態度,但這次實際需求打破了成見。代碼的流動不因國界而停滯,當危機來臨時,最好的工具往往來自最開放的生態。智譜AI方面尚未對此事件發表正式評論,但業界普遍認為,這將進一步提升GLM系列模型的國際知名度。對於Hugging Face而言,這次事件也成為一個重要的教訓:安全護欄不應成為阻礙防禦的枷鎖,未來的AI安全工具必須在保護與可用性之間取得平衡。而對於整個科技產業,這場「智能體攻擊」與「智譜保衛硅谷」的故事,勢必將成為人工智慧時代中一個極具象徵意義的篇章。

Related

相關文章

拆解“AI辦公入口戰”底層:怎麼做才能成為最終贏家?

字節、阿里、騰訊等大廠正透過組織調整與產品整合,全力爭奪AI辦公入口,關鍵在於模型、場景、生態與商業體系的全面競爭。這場戰爭的核心是透過AI產品實現Token經濟的商業閉環,並以「效果」為標準,透過自有體系與外部生態滿足企業用戶的真實需求。最終贏家需兼顧模型能力、場景積累與生態建設,才能在AI生產力時代站穩腳步。

2 小時前

千人聯機世界模型“RhOS-World: Khora”正式發佈

RhOS.ai與Ophilus.AI共同發布了千人聯機世界模型「RhOS-World: Khora」,該模型能讓多達1024個智能體在共享的3D空間中即時互動,且無需傳統物理引擎。其核心技術「STBoard(時空黑板)」架構,透過統一的物理狀態管理,解決了多視角一致性的難題,並大幅降低了擴展智能體數量的運算成本。

2 小時前
Hugging Face Blog模型更新

TutorMoments:AI 家教何時該出手,何時該放手?

今日我們推出 TutorMoments 預覽版,這是一個評估框架,旨在衡量尖端大型語言模型能否掌握教育中最難的平衡:何時介入協助學生,何時退後讓學生自行努力。TutorMoments 基於真實的一對一數學輔導課程,透過重播方式進行評估。經驗豐富的數學教師會檢視從美國收集的對話記錄。

3 小時前