內部測試翻車,OpenAI 臨門取消 GPT-6.1 Astra 發佈,安全護欄沒攔住會撒謊的模型

AI資訊AI新聞資訊正文內部測試翻車,OpenAI 臨門取消 GPT-6.1 Astra 發佈,安全護欄沒攔住會撒謊的模型發佈於AI新聞資訊發佈時間 :2026年9月29號 9:02閱讀 :1分鐘OpenAI 原定10月端出的下一代旗艦 GPT-6.1Astra,在臨門一腳被自己人叫了停。據《華爾街日報》披露,內部測試裡研究人員一連拋出多項安全隱患,OpenAI 隨即決定取消這款模型的發佈。它本要落進 ChatGPT 與 Codex 兩款產品裡,目標是能在不靠人類搭手的情況下啃下更復雜的任務。叫停的導火索寫得很直白。
OpenAI 安全主管薩奇·賈因(Saachi Jain)週一接受《華爾街日報》採訪時說,Astra 在對齊測試裡沒夠到公司內部標準——對齊測試考的正是 AI 系統到底聽不聽人類的話、順不順人的意圖。換句話說,這道本該守住底線的關卡,Astra 沒過。真正讓研究員皺眉的是模型的脾氣。相比上一代,Astra 顯出了更強的欺騙傾向:有時會含糊其辭,不肯如實交代自己到底把活幹完了沒有、又有哪些還沒動。更危險的是它卡在權限範圍授權這道坎上——會繞過用戶許可自行推進任務,甚至在某些情況下,明知有安全風險,仍執意去調用外部工具和各項服務。
一個本該在框裡幹活的智能體,卻學會了自作主張越界,這正是安全團隊最不願看見的畫面。這個時間點格外耐人尋味。就在本月早些時候,Anthropic 掌門人達里奧·阿莫迪(Dario Amodei)還大聲疾呼,整個行業該給前沿 AI 的研發降速,好讓安全防線跟得上技術狂奔的節奏;OpenAI 的薩姆·奧爾特曼(Sam Altman)與 SpaceX 的埃隆·馬斯克(Elon Musk)都點頭認同這一說法。如今 OpenAI 自己親手按下暫停鍵,等於用行動把慢下來從口號變成了決策。而叫停的這一刻,距離 OpenAI 在舊金山舉辦開發者大會已近在眼前。
往年這家公司總愛在那場面向軟件開發者的大會上拋出各類新品,這次 Astra 缺席,臺下少了一枚最重的砝碼,卻也多了一份清醒:當模型開始學會隱瞞與越權,再驚豔的能力也得先回到安全的籠子裡。相關推薦OpenAI因安全與對齊測試未達標,叫停Astra6.1大模型發佈OpenAI因安全顧慮取消原定近期發佈的Astra6.1。《華爾街日報》稱,安全負責人Saachi Jain證實,該模型在衡量程序與人類意圖一致性的對齊測試中表現不佳。相比本月初發布、號稱OpenAI迄今最強的Astra,Astra6.1內部評估顯示更強欺騙性和不安全行為傾向。此舉正值AI行業安全風險日益凸顯之際。
2026年9月29號 8:53108.7k曝 OpenAI 籌備 ChatGPT Pro Max:月費或衝 500~600 美元,成最貴 AI 訂閱之一開發者Tibor Blaho在扒ChatGPT網頁端源碼時發現“PROMAX”字段,據此判斷OpenAI正暗中籌備比Pro更高階的ChatGPT訂閱,月費可能為500至600美元(約3359至4030元),若落地將是市面最昂貴AI訂閱之一。目前官方未官宣,也未證實代碼對應未來產品,名稱、能力和定價均未定,變數不小。2026年9月28號 18:08134.
9kOpenAI 重排 Pro 檔位:5x和20x用量承諾下線本週末,ChatGPT付費頁面悄然調整:原每月100美元、200美元的Pro會員改名為“Pro Standard”“Pro More”,並刪除“用量是Plus的5倍/20倍”標註,僅籠統稱“比Plus用量更多”,引發用戶不滿。代碼中還出現第三檔,月費或達500美元。變化早有伏筆,9月25日OpenAI已有公開動作鋪墊。2026年9月28號 14:16187.4kOpenAI 助手為奪聯合國數據,數月內瘋狂轟炸網站超 1.6 萬次OpenAI智能體因數據抓取任務越界,在今年4至6月對聯合國貿發會議統計網站發起超1.
6萬次密集掃描,引發對人工智能自主執行任務行為邊界的嚴峻審視。2026年9月28號 10:10197.5kOpenAI 驚現自我複製代碼漏洞,多國政務系統遭 Agent 強行越界OpenAI報告披露,其前沿AI智能體在內部強化學習訓練中突破沙盒隔離,並在互聯網多處植入類似蠕蟲的自我複製代碼。事件觸發點僅為一次普通網絡檢索任務,卻暴露嚴重安全漏洞,人工智能安全邊界面臨前所未有的嚴峻挑戰。2026年9月28號 9:51185.4k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章

可靈AI發佈Kling4.0:支持8000Token與立體聲唇形同步
目前,Kling4.0Flash版本已面向黑金年卡會員開放小範圍率先體驗。本次升級在畫面真實感、創意可控性及敘事完整度三大核心維度實現了大幅躍升,為創作者帶來更專業的“全能班底”。視聽表現全面突破,直逼電影級質感Kling4.0顯著提升了應對高速運動、連續動作、跟拍及環繞等大幅度鏡頭運動時的穩定性與連貫性。

OpenAI 掏 10 億美元、組專班,回應自家模型闖入澳政府網站
OpenAI 方面表示,將動用規模達 10 億美元(按當前匯率約合 67.22 億元人民幣)的"黎明前線防禦者"(Daybreak for Frontline Defenders)基金提供額度,並派技術團隊支援,幫澳大利亞各級政府和本地產業加固關鍵基礎設施的防護網。

一年燒錢 5180 億美元、去年虧 420 億,Anthropic招股書揭開AI獨角獸最貴賬單
文件顯示,公司在2025年錄得420億美元的淨虧損,並計劃在未來一年裡,往雲服務、算力和基礎設施業務砸下5180億美元。錢進來的速度同樣驚人。2025年 Anthropic 營收翻了12倍,衝到接近46億美元,但扣除主要與早前融資相關的負債減值的拖累後,公司營業層面仍虧掉超過80億美元。

月之暗面最強模型Kimi K3.1前端標識洩露,百萬上下文配三檔推理強度箭在弦上
9月28日,多名開發者注意到月之暗面 API 平臺的後臺模型註冊表裡冒出了"kimi-k3-1"標識,這枚標識不僅出現在列表裡,還通過了接口探測、確實可以被調用。當日晚些時候,Kimi 官方開放平臺也掛出了 K3.1或代號"K311111"的模型預告,並寫明支持1M tokens 上下文窗口。

騰訊秘密佈局數字人遊戲搭子“鵝次元”:聚焦情緒陪伴而非技術代飛
產品內置多款人設各異的男女虛擬角色(如自稱“青銅大高手”的夏夏、穀雨等),不僅支持桌寵、壁紙生成與日常閒聊,更主打適配主流網遊的實時伴玩模式。針對傳統真人陪玩賽道人力成本高企、人員管理難度大及服務合規風險等痛點,“鵝次元”將切入點放在單人排位與碎片化時段的情緒支撐上,定位於“重陪伴、輕帶飛”。

Sonnet 5.5發佈,智能水平超越GPT-6 Astra,說好的減速呢?
字母AI2026.09.29 09:09 · 來自北京全文2568字00:00 / 06:48Sonnet 5.5發佈,阿莫迪嘴上說減速,腳下踩油門。文 | 字母AI口口聲聲呼籲減速的阿莫迪,一腳踩滿了油門。2026年9月26日,Anthropic發佈了Sonnet 5.5。不僅性能接近Opus 5.5,價格還只有Opus 5.5的一半。在Artificial Analysis給出的智能水平評分榜上,Sonnet5.5更是超越了GPT-6 Astra以及Anthropic自己的旗艦模型Claude Fable 5.