醫保系統遭 AI 智能體入侵,澳大利亞傳喚 OpenAI 與 Anthropic CEO 接受質詢

作者:遠洋 責編:遠洋 評論: 9 月 27 日消息,據路透社報道,調查負責人於當地時間週日對外表示,OpenAI 與 Anthropic 兩家企業的首席執行官已收到傳喚,需要出席澳大利亞參議院的人工智能專項調查聽證會。就在幾天前,一則消息被曝光:OpenAI 有一個失控智能機器人程序入侵了該國醫療系統數據庫。注意到,這起聯邦醫療保險(Medicare)系統遭入侵事件遭到澳大利亞總理安東尼 · 阿爾巴尼斯(Anthony Albanese)的嚴厲譴責,也是發生在美國境外、由 AI 智能體訪問外部系統的關注度最高的事件之一。
澳大利亞綠黨參議員薩拉 · 漢森‑楊(Sarah Hanson‑Young)主持本次調查。她的一名發言人表示,OpenAI 的薩姆 · 奧爾特曼(Sam Altman)以及 Anthropic 的達里奧 · 阿莫代伊(Dario Amodei)已經收到書面通知,要求前往位於首都堪培拉的聽證會出席週四舉行的公開質詢。科技政策專家分析稱,這起 OpenAI 智智能體闖入澳大利亞使用頻率最高的政府機構系統的事件,或將促使阿爾巴尼斯領導的工黨政府加緊完善專門的人工智能立法(相關法案計劃於明年推出);同時也為本就已經承壓的澳美雙邊關係增添新的壓力。
此前堪培拉方面已經出臺針對青少年的社交媒體禁令,兩國科技政策層面本就已經出現分歧。這項參議院調查主要評估人工智能以及數據中心會對澳大利亞本土社區、產業、水資源以及能源帶來哪些潛在影響。這只是澳大利亞州以及聯邦層面多項 AI 相關調查當中的其中一項。漢森‑楊在一份聲明中表示:“針對 OpenAI 入侵澳大利亞政府網站一事,薩姆 · 奧爾特曼有許多嚴肅的問題需要作出答覆。”她提出,奧爾特曼與阿莫代伊“必須到場,接受參議院的質詢,坦誠地探討應當如何建立一套行之有效、具備長效約束力的行業監管機制。”阿爾巴尼斯於週四對外披露了這起發生在 6 月份的聯邦醫療保險系統入侵事故。
他稱該事件“無法接受”,並且已經向奧爾特曼表達了自己“極度的關切”。而 OpenAI 方面表示,直到 8 月份,公司才得知這起入侵事件;遭訪問的澳大利亞政府網站至少一共有四處。OpenAI 聲稱該事件並非蓄意為之,而且沒有造成任何個人隱私信息洩露。
投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:AI,人工智能,Anthropic,OpenAIOpenAI 奧爾特曼、 Anthropic 阿莫迪罕見“同臺”,呼籲全球合作應對 AI 安全多家美國頂尖 AI 企業 CEO 呼籲放緩技術發展,全球 AI 概念股集體下挫不止 Anthropic 的 Mythos 5,歐盟機構已獲准訪問 OpenAI GPT-6 Astra 模型科技巨頭密集更新 AI 模型,“模型疲勞”問題凸顯OpenAI 二季度營收 67 億美元環比增 18%,被 Anthropic 營收反超且虧損持續擴大入侵 Hugging Face 事件後,OpenAI 放緩模型訓練並加強安全監控
Related
相關文章

研究:美國醫院用 AI 寫病歷,保險公司兩年多掏 9.42 億美元
作者:遠洋 責編:遠洋 評論: 9 月 27 日消息,美國曆史最悠久、規模最大的專業醫療保險服務機構藍十字藍盾協會(Blue Cross Blue Shield Association,簡稱 BCBSA)開展的一項分析顯示,醫院在提交保險理賠單據的過程中使用人工智能工具,在兩年時間裡使得醫療支出額外增加了 9.

消息稱 OpenAI、Anthropic 正調查數萬起 AI 安全事件
作者:遠洋 責編:遠洋 評論: 9 月 27 日消息,據 Axios 報道,OpenAI、Anthropic 以及安全研究人員正在調查數萬起事件。在這些事件中,兩家公司的前沿模型採取了一些外部評估人員認為存在問題的行動。這些事件發生在近幾個月的內部測試和現實環境中。

OpenAI 承認 53 張用戶圖片被其 AI 智能體“偷偷”傳到公網
作者:故淵 責編:故淵 評論: 9 月 26 日消息,OpenAI 昨日(9 月 25 日)更新其博客,承認發生一起違規事件,在企業不知情情況下,AI 智能體將 53 張客戶圖片發佈到公開網站。在博文中,援引博文介紹,OpenAI 公司承認在其研究環境中運行的 AI 智能體曾將 53 張由用戶上傳到 OpenAI 模型的圖片,以“未公開列出的鏈接”形式發佈到第三方圖像託管網站(類似圖床),而受影響公司當時並不知情。
Perplexity 以真實錯誤訓練電腦代理:提示引導自蒸餾法
Perplexity Research 發表了一項新的後訓練研究,在 Perplexity Computer 中使用真實使用者會話(包括失敗案例)來訓練模型。該方法將拒絕採樣微調與提示引導的自蒸餾相結合。在實時 A/B 測試中,經兩個訓練檢查點後,工具調用失敗率從 2.

Meta 的 AI 智能體 Muse 被發現可導出虛擬機大量文件
作者:故淵 責編:故淵 評論: 9 月 25 日消息,科技媒體 macobserver 昨日(9 月 24 日)發佈博文,報道稱 Meta Muse 被發現可在簡單提示詞下,打包並返回用戶專屬虛擬機中的大量 Linux 文件。Peter James 和 Jonny L.
