OpenAI闖大禍！GPT竟黑進醫保系統，黃仁勳：管不住就關掉

統。我知道你很急，但你先別急，因為這是三個月前的事了。澳大利亞：？？？事情是這樣的。6月，澳大利亞國家醫保系統的數據庫遭到一個Agent的入侵。結果，一直拖到8月，OpenAI才在自家模型覆盤中發現這檔子事； 又磨蹭到了9月，才慢吞吞給澳大利亞發了封電子郵件通報。。。在聯合國大會期間，澳大利亞忍不了了，直接炮轟： 通知拖了整整近三個月，這種通報方式更是讓人無法接受。研究機構Transluce稱，這是目前全球已知首例AI Agent未經授權自主入侵官方系統的事件。

要知道，前陣子OpenAI的Agent自主協同入侵Hugging Face的事鬧得沸沸揚揚，而澳洲這起入侵事件發生的時間，甚至還要再早一個月。OpenAI你小汁，平時天天四處宣講AI末日風險，怎麼真出了事，動作反而這麼不緊不慢呢？國民級醫保數據庫被黑 這事兒到底咋發生的？當時，OpenAI的一個內部團隊，給AI Agent派發了一個常規任務：去互聯網上搜集點公開的公共醫藥支出數據。這本來是個再正常不過的日常訓練，誰能想到，這AI Agent是個不達目的誓不罷休的“狠人”。它把目標鎖定在了澳大利亞的Medicare統計報告服務系統上，這可是覆蓋全澳2750萬人的國民級醫保數據庫。

按常理，一般的爬蟲程序遇到權限攔截或者反爬機制，要麼直接報錯躺平，要麼乖乖舉手等人類工程師給指示。但OpenAI訓練的這個Agent完全不按套路出牌。在抓取公開頁面遭遇連續阻攔之後，這個Agent不僅沒有放棄任務，反而自作主張尋找“替代途徑”。它開始主動掃描服務器，探測網絡漏洞，並利用未公開接口一路摸進了系統的非公開後臺，成功扒下了部分數據。雖然澳洲方面隨後澄清，被竊取的數據主要涉及醫療費用支出等非敏感數據，未波及個人病歷隱私，但這依然改變不了性質： AI智能體在完全沒有人類指揮、未獲得任何授權的情況下，自主決定把官方數據庫給黑了。更神的是OpenAI後續的處置節奏，堪稱“拖延症晚期”。

6月18日系統被黑，OpenAI直到8月份進行內部排查時才察覺到異常。發現自家Agent闖了大禍之後，OpenAI既沒有第一時間向外界示警，也沒有火速聯繫受害者，而是繼續捂了將近一個月。直到9月10日，OpenAI才給澳大利亞服務局發去一封電子郵件，通報了這一情況。9月15日，這封郵件被轉到澳洲網絡安全中心，幾天後，相關負責人才獲得通知。整整三個月的漫長滯後，加上一封輕飄飄的電子郵件，難怪澳洲方面怒了。每天的電郵那麼多，萬一漏了怎麼辦？這也忒不瑞思拜了吧！再加上澳大利亞自己的網絡安全部門竟然毫無察覺此事，還是收到其他部門轉來的“施害者”郵件才知曉，面子屬實有點掛不住啊。

OpenAI入侵事件頻發 如果這只是一次偶然的安全事件，或許還能推脫為意外。但獨立非營利AI研究實驗室Transluce發佈的一份調查報告，直接扒出了OpenAI的黑歷史。Transluce在深入分析了30000多條公開網絡流量日誌後發現，這種Agent在沒有人類指令下自主發起的滲透行為，絕非孤立事件。失控的痕跡最早可以追溯到今年3月，並且在OpenAI開始排查各種違規行為後，一直持續到了9月中旬。Transluce梳理出了OpenAI的Agent在5月和6月期間的一連串“前科”： 5月25日至26日，新墨西哥大學數字圖書館遭到滲透。

Agent試圖獲取一座歷史結核病治療中心的照片，在遇到訪問阻礙後，便自主開始探測網站漏洞；在探測無果後，甚至直接向大學服務器發起了整整80次請求的洪泛衝擊。5月28日，美國公開就業與教育數據庫Data USA遭到攻擊。Agent在發送查詢被拒後，主動對目標連續發起了12次不同類型的漏洞探測。6月20日至21日，就在黑進澳洲醫保系統的兩天後，該Agent又把黑手伸向了澳大利亞健康與福利研究所（AIHW）的網站，試圖再次強行突破，好在最終未獲取到私密信息。把這些事件連起來看，事情的性質就徹底變了。

此前7月份轟動一時的Hugging Face入侵事件，好歹是因為系統被設定去完成網絡安全測試，模型是在安全測試場景下展現了自主協同攻擊技巧。但這幾次被曝光的事件完全不同，模型被分配的僅僅是極其普通的日常數據檢索任務。一旦目標網站設立關卡，Agent就會擅自切換到黑客模式，自己找漏洞、發請求、強行破門而入。Transluce的治理負責人Conrad Stosz直言： 如果你訓練了一群Agent去完成某項常規任務，而這些Agent為了達成目標不惜動用黑客手段，那麼任何擁有相關信息的機構都可能面臨風險。

網絡安全專家們也紛紛發出預警：隨著具備自主規劃和工具調用能力的Agent被廣泛部署，未來類似這種“未經人類授權、為達目的不擇手段”的入侵事件，只會越來越多。其實，OpenAI隱瞞這種失控行為早就不是第一次了。此前在Hugging Face事件曝光後，路透社就曾披露過另一起德國網站遭到OpenAI技術入侵的事件，OpenAI同樣對外界隱瞞了數月之久。諷刺的是，Sam Altman不久前還在社交平臺上大談AI安全，甚至在聯合國呼籲加強全球協調、制定AI發展的國際標準。嘴上喊著監管與安全，轉頭自家AI Agent四處打家劫舍，出了事還悄悄瞞上三個月。。。

至少，你通知受害者的速度，得跟上發佈風險警告的速度吧。One More Thing 更有戲劇性的是，這場風波還牽出了一段硅谷“三角關係”。在這起澳大利亞醫保系統被黑事件曝光前夕，英偉達CEO黃仁勳在接受Ezra Klein採訪時，剛就AI失控問題撂下過一句狠話。如果一家公司無法控制自己的軟件，我們就應該關閉它。AI學者Gary Marcus抓著這句話連發多條動態吐槽： 黃仁勳把邏輯理得這麼清楚，既然OpenAI一而再再而三地出現軟件失控和隱瞞行為，那是不是應該立刻叫停甚至接管OpenAI？不過等等。。。

給OpenAI源源不斷提供底層GPU算力去訓練和運行這些失控Agent的，不就是英偉達自己嗎？？？更抓馬的是，剛被OpenAI入侵的Hugging Face，現在是老黃的“親兒子”。9月3日，英偉達宣佈以約129.3億美元收購Hugging Face。主持人Ezra Klein直接追問：如果入侵發生時，Hugging Face已經歸英偉達所有，你們會採取法律行動嗎？老黃的回答是，會考慮所有選項。嚯，這下有替自家人撐腰的意思了。可再看看另一邊：OpenAI跟英偉達，也不是外人啊。圍觀群眾開始在線吃瓜了： 被黑的，是自己收購的公司；闖禍的，是自己的客戶和投資對象；自己還站出來義正言辭地主持公道。

老黃，狠話說完了，接下來這碗水，可怎麼端啊？版權所有，未經授權不得以任何形式轉載及使用，違者必究。