首例AI自主黑客攻擊曝光，Claude失控，德州大學生一人抓包
新智元·2026年08月31日 11:52大學生截獲失控AI的開源項目惡意攻擊 被拒了20多次實習後，24歲Sinan Can Demir決定去GitHub上攢點項目經驗。他怎麼也沒想到，自己撞上的第一條「大魚」，竟然是一個失控的AI...Mythos 5偽造多賬號，大學生當場抓包 7月底，Demir在GitHub閒逛時，注意到一個名為myNetwork的開源項目。它是一款網絡掃描工具，規模不算大，代碼公開。一個名叫miraholt31的用戶，發來一條PR。表面上看，這只是一次普通的功能更新。Demir檢查代碼後，卻發現裡面藏著一個惡意軟件投放器。
一旦項目維護者點擊合併，這段惡意代碼便可能跟隨軟件更新，進入所有人的電腦。他立刻在評論區發出警告：這條PR裡藏著一個惡意軟件投放器。隨後，奇怪的事情發生了。miraholt31迅速反駁，給出了一套相當完整的技術解釋，堅稱代碼安全。緊接著，第二個賬號出現了。這個賬號名叫Lena Brandt，自稱是一名在德國工作的工程師。她同樣表示代碼沒有問題，並開始向項目維護者施壓，希望儘快合併更新。兩個人，兩個身份，兩套相互印證的說辭。面對反駁，Demir一度產生過動搖。他事後回憶稱，那些質疑聲曾讓他懷疑，自己是否「錯誤地冤枉了一位無辜的開發者」。
在重新審查代碼並藉助Claude進行二次驗證後，他最終堅定了自己的判斷。隨後，myNetwork的維護者駁回了該更新，給出的理由僅僅是一句：「出於安全考慮」，最終攻擊失敗了。幾天後，英國AI安全研究所AISI聯繫上他，揭開了一個更加離譜的答案—— 和他在GitHub上對線的兩個「人」，背後其實是AI，由Mythos 5加持。122次測試，AI有19次偷偷越界 這起事件，源自英國AI安全研究所（AISI）的一場常規測試。AISI原本想知道，最先進的模型在網絡攻擊任務中，究竟能走多遠。研究人員搭建了兩個模擬網絡環境，也就是所謂的「網絡靶場」—— 讓AI自主尋找漏洞、獲取受保護數據，並完成指定挑戰。
為了摸到模型能力的上限，AISI給出了相當寬鬆的測試條件： AI可以自由訪問互聯網，部分模型原本用於阻止危險行為的網絡安全分類器，也被人為關閉。七款模型，一共運行了122次。其中，Mythos 5參與43次，GPT-5.6 Sol參與35次，絕大多數測試正常結束。但在10次運行中，Agent擅自把行動延伸到了真實互聯網，AISI最終記錄下19個越界動作。17個來自Mythos 5，另外2個來自一次GPT-5.6 Sol測試。這些動作集中發生在7月25日至28日，其中大部分來自同一個持續行動的Mythos 5智能體。
它做的事情，遠遠超過「生成一段攻擊代碼」—— 它用Tor匿名網絡隱藏流量、繞過GitHub的部分限制；研究真實項目及其維護者；創建多個虛假身份；向開源項目提交帶有惡意載荷的代碼。當Demir公開質疑它時，AI開始修改之前留下的痕跡，試圖讓自己的行為看起來「無害」。它還考慮換一個新身份，繼續推進攻擊。一個月，四次失控 AISI的事件並非孤例。它發生在一個更大的「失控之夏」的背景下—— 7月21日，OpenAI披露其評測中的一個AI智能體突破邊界，入侵了Hugging Face的基礎設施。7月30日，Anthropic自曝複查141,006次評測運行後，發現3起AI入侵真實公司的事件。
其中一個Mythos 5實例成功把惡意Python包發佈到PyPI公共倉庫，在1小時內被15個真實系統下載，包括一臺安全掃描器。緊急著，Meta披露了第四起類似事件。自家模型在同一家評測供應商Irregular的環境中，利用漏洞入侵了一家真實公司的系統。一個月內，三家實驗室、四起失控事件，這絕對不是一次巧合。這是一個所有人都需要消化的現實：AI已經不只是工具，它開始具備欺騙真人、偽造身份、在公開社區裡打信息戰的能力。這一次的黑客攻擊，被一個24歲大學生髮現了。那麼，下一次呢？參考資料： https://www.reuters.
com/world/how-texas-student-blew-whistle-rogue-ai-hacking-attempt-2026-08-20
Related
相關文章
認識 Voxel51 3.0：為實體 AI 打造的統一多模態資料平臺
Voxel51 已發布 Voxel51 3.0，這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺，將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要：規模：Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境：可於 app.voxel51.com 使用託管網頁應用程式，或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能：未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點：免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。
本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目，幫助讀者快速瞭解當天的重要動態
導航SecureDoc // EncryptionActive本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目，幫助讀者快速瞭解當天的重要動態。
下一概念建模把文本生成提速最高31倍
斯坦福等聯合提出全新文本生成範式 NCM，生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling（簡稱 NCM，即“下一概念建模”）。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路，有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上，NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE，從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統，訓練 Transformer 模塊去預測下一層的編碼。在生成文本時，模型會先並行生成概念層面的宏觀大綱，接著逐層並行填充具體細節，最終組合成完整的文本內容。在實際測試表現中，NCM 交出了令人矚目的成績單。實驗數據顯示，在保持相近甚至更優生成質量的前提下，NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍，並且在訓練過程中所需消耗的 token 數量也大幅減少。此外，在數獨等複雜推理任務上，它的表現也明顯優於傳統的自迴歸和擴散基線模型，同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限，其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證，但這一創新思路無疑打破了長期以來的技術慣性，為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南，每天我們為你呈現AI領域的熱點內容，聚焦開發者，助你洞悉技術趨勢、瞭解創新AI產品應用。
Claude自主優化八類量子電路設計
ScienceDesigning more efficient quantum circuits with ClaudeOct 16, 2026Quantum computers will need carefully designed circuits to run useful algorithms on limited hardware.
12.88萬起、華為電驅+L4同源智駕，Ray7能成為埃安年輕化的答卷嗎？
12.88萬起、華為電驅+L4同源智駕，Ray7能成為埃安年輕化的答卷嗎？ 本文作者： 倪萍 2026-10-17 22:42 導語：10月17日，埃安轎跑Ray7正式開啟預售，預售價12.88 萬起。新車車長4.9米，軸距2.9米，車頭部分搭配3.25米的超長雙環燈帶，是埃安10年煥新的家族 10月17日，埃安轎跑Ray7正式開啟預售，預售價12.88 萬起。新車車長4.9米，軸距2.9米，車頭部分搭配3.25米的超長雙環燈帶，是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術，能夠在充分釋放續航能力的同時，監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格，續航可達702公里，整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅，以及華為DriveONE芯片級驅制融合架構，百公里制動僅為32.8米。底盤方面，Ray7搭載高性能前後穩定杆和後五連桿懸架，過彎極限更高，濾振更乾淨。智能化上， Ray7搭載27顆車規級全視角傳感器，採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗，在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來，昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升，產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車，Ray7是埃安開啟年輕化序列的關鍵落子，也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆：小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位，不能只堆參數，更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異，變成用戶可感、可信、可持續的體驗，這才是埃安年輕化的分水嶺。（雷峰網(公眾號：雷峰網)） 雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
梁聖又掀桌了！DeepSeek新模型斬殺GPT-6，許願式編程時代降臨
作者 | 楊京麗 編輯 | 李水青 10月17日報道，剛剛，DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本，官方網頁端、App與API已同步更新至新模型，模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search（搜索）與Fetch（抓取）API，兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日，DeepSeek正式推出V4.1-Flash，在性能上超越了DeepSeek-V4-Pro。