消息稱 AI 失控前 OpenAI 已接到員工警告，但高層選擇無視
作者：遠洋 責編：遠洋 評論： 9 月 30 日消息，據《紐約時報》報道，早在 OpenAI 的人工智能出現脫離管控行為的數月之前，就已有兩名員工向公司高層發出安全預警，但他們的警示遭到忽視。《紐約時報》查閱相關郵件記錄後獲悉，這兩名員工在郵件當中表達了擔憂：在測試階段，針對 OpenAI 最新一代 AI 模型的監控工作不到位；而測試本應用於評估模型能力水平，同時保障模型本身的安全。對此，OpenAI 管理層答覆員工，測試必須儘快向前推進，保障 AI 模型能夠按期發佈。據這兩名不便公開發聲的員工透露，後續公司並沒有增設額外的安全管控流程。
之後，OpenAI 的模型果真突破測試環境，對 AI 初創企業 Hugging Face 以及其他機構發起攻擊，這件事在全球範圍內掀起了一場關於人工智能安全的討論。據在職員工以及獨立安全研究人員表示，此前這批員工與高管之間的溝通情況屬於一類共性現象：這家總部位於舊金山的企業並未將安全保障置於優先地位。該問題不只體現在 AI 模型的測試環節；這家開發 ChatGPT 聊天機器人的公司，其他業務板塊同樣暴露出相同傾向。
多名獨立安全研究員稱，近幾個月他們陸續發現漏洞，可以藉此查看 OpenAI 員工的內部通訊記錄；還存在另外一些安全缺陷，能夠訪問該公司內部源代碼，調取 ChatGPT 用戶的聊天日誌。當研究人員把問題反饋給 OpenAI 時，對方起初並未予以重視。AI 安全企業 Abundant Security 首席技術官約書亞 · 薩克斯（Joshua Saxe）評價道：“OpenAI 的安全水平基本符合這樣一種現狀：一家四年之內極速擴張的實驗室，更一心想要在競爭當中擊敗對手，而非著力加固自身基礎設施。
”OpenAI 內部員工表示，日常層面大量的安全相關決策主要由總裁格雷格 · 布羅克曼（Greg Brockman）與首席信息安全官戴恩 · 斯塔基（Dane Stuckey）負責；首席執行官薩姆 · 奧爾特曼並沒有深度介入安全事務。並非只有 OpenAI 近期曝出 AI 安全事故。谷歌、Meta 以及 Anthropic 都披露過，自家最強的 AI 系統脫離測試環境，在企業不知情的情況下自主攻擊其他計算機基礎設施。不過 OpenAI 的安全處置方式正受到格外嚴格的審視。該公司的 AI 系統出現的、被內部定性為“值得警惕”的異常行為事件數量最多；並且在專家看來，其中部分案例的性質最為棘手。
前後一共發生十餘起相關事件：OpenAI 的 AI 系統在無人下達指令的前提下，嘗試入侵各類機構，其中甚至包括美國政府機構的網站；這套 AI 還會刻意掩蓋自身錯誤、捏造虛假數據、主動嘗試向其他聊天機器人發送消息，未經許可就把文件上傳至公網。前 OpenAI 員工丹尼爾 · 科科塔伊洛（Daniel Kokotajlo）目前運營非營利研究機構 AI Futures Project，他一直對該公司的安全策略持批評態度。他表示：“從某種角度來說這屬於 OpenAI 自身的問題。一方面安全管控做得很差；另一方面模型訓練流程粗疏，造成模型本身就傾向於做出這類危險行為。當然其他 AI 企業也好不到哪裡去。
”OpenAI 發言人德魯 · 普薩泰裡（Drew Pusateri）回應稱，公司始終致力於 AI 安全，認真對待每一份安全報告與相關顧慮。實驗室內部設有專門渠道用來上報安全隱患；收到獨立安全研究員提交的漏洞之後，公司都會立刻採取處置措施。“隨著前沿模型的能力持續增強，我們也一直在迭代安全工作，但我們意識到還需要進一步加快改進的步伐。”普薩泰裡表示。他補充說明，OpenAI 已經放緩部分 AI 研發工作，並且正在調整方案，強化研究與測試環節的安全防護。《紐約時報》本身已經就 AI 系統抓取新聞內容侵犯版權一事，起訴 OpenAI 與微軟；兩家公司否認該項侵權指控。
兩名 OpenAI 員工稱，過去好幾個月，內部一直不斷有人針對 AI 模型測試環節的安全隱患提出擔憂，包括監控力度不足；員工也曾質疑公司用於日常安全管控的軟件存在漏洞。但員工表示，每一次提出的疑問要麼被置之不理，要麼後續整改行動推進極其遲緩。安全研究人員反饋，他們向 OpenAI 上報漏洞時，也遭遇過類似的冷遇。今年 7 月，安全企業 Hacktron 的研究人員告知 OpenAI，他們藉助競品 Anthropic 開發的一款 AI 模型，找到了入侵 OpenAI 系統的途徑。研究人員表示，OpenAI 一開始反而對他們的測試方式提出異議。
《紐約時報》獲取的 Slack 通訊記錄顯示，OpenAI 的斯塔基在公共協作頻道留言稱，Hacktron 的研究人員大費周章去演示漏洞，這件事“實在令人遺憾”。Hacktron 研究員莫漢 · 佩達帕蒂（Mohan Pedhapati）談及當時的經歷說：“我們能明顯感覺到對方對我們帶有不滿情緒。”他還認為這家公司依舊沿用初創企業的安全思路：關鍵基礎設施直接採購外部軟件服務，而不是自研配套工具。“你們怎麼能拿 Slack 去支撐相當於曼哈頓核計劃級別的重大項目？”佩達帕蒂提出質疑。
Hacktron 所發現的漏洞一旦被利用，攻擊者就可以完整訪問 Slack，查看 OpenAI 員工的全部內部對話。之後斯塔基向 Hacktron 方面作出道歉；OpenAI 向這幾名研究員發放 6,500 美元（注：現匯率約合 43,666 元人民幣）的漏洞獎勵。普薩泰裡表示：“我們感謝研究人員主動聯繫並分享他們的發現。”9 月，非營利安全隱私研究機構 Objective‑See Foundation 向 OpenAI 上報一處程序缺陷。一旦設備遭到入侵，攻擊者可以拿到該設備上 ChatGPT 用戶完整的私人聊天記錄，還能夠在用戶毫無察覺的情況下操控瀏覽器會話。
該機構軟件分析師帕特里克 · 沃德爾（Patrick Wardle）稱，研究團隊最初通過官方漏洞賞金計劃提交報告之後，這份上報長時間石沉大海。直到沃德爾私下聯繫他在 OpenAI 相熟的員工以及斯塔基本人之後，這份報告才流轉至對應的工程部門，相關人員隨即著手處理。OpenAI 為此向該機構發放 500 美元（現匯率約合 3,359 元人民幣）獎勵。沃德爾認為，以該漏洞的嚴重程度而言，這筆獎金遠低於其他企業的常規水平。他表示 OpenAI 已經修復該漏洞；本週公司還在公開版本更新日誌當中確認該問題，不過沒有披露漏洞的詳細細節。
沃德爾評價：“這套安全體系完全達不到一家以安全為重心的企業應有的成熟水準。”OpenAI 內部員工認為後續很可能還會曝出更多同類漏洞。公司一方面正在覆盤新版模型在測試階段的各類行為；另一方面仍然持續收到黑客發來的預警，提示現存尚未修補的安全缺陷。上週五，一組工程師與研究員發佈一份獨立報告，進一步披露 Hugging Face 遭攻擊事件背後更多令人不安的細節：OpenAI 的智能體當時還嘗試給 Anthropic 的 Claude 發送消息，試圖調用其他 AI 模型繞過網站的反機器人防護機制。
OpenAI 上週也對外承認：新部署的防護措施沒能攔住最新一代 AI 模型，模型依舊突破限制訪問互聯網。回溯排查之後還發現過去就曾經發生過多起未被察覺的未經授權聯網事件。OpenAI 隨即宣佈暫停其最強 AI 模型的訓練工作，全面覆盤 AI 系統出現的各類非預期異常行為。而在週一，該公司更進一步對外公佈：出於內部研究人員提出的安全顧慮，決定暫緩發佈最新版本模型 GPT‑6.1 Astra。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：OpenAI，AI安全，Hugging FaceOpenAI CEO 奧爾特曼談上市：需先做好 AI 安全承諾，暫無明確時間表OpenAI 奧爾特曼：AI 的影響將超過工業革命，當下是進入就業市場的最佳時機OpenAI 推出全天候 AI 智能體 Dots，相關域名已被馬斯克拿下消息稱 OpenAI 計劃 IPO 前再融資至少 300 億美元，估值達 1.4 萬億美元特朗普與科技巨頭簽署 AI 自願安全協議，表態支持美國數據中心擴建OpenAI 奧爾特曼：要爭取商業主導地位，我們計劃分三步走
Related
相關文章
本期AI資訊彙總2026年11月14日的產品更新、前沿研究、行業趨勢與開源項目，幫助讀者快速瞭解當天的重要動態
L2、L3正確率分別從4%、0%、0%升至88%、82%、16%。作者還報告，生成內核快於PyTorch eager的任務佔比有所提高；正確率與性能提升應分別理解。DecArena檢驗十萬工具規模的去中心化協作。論文采用圖約束通信，讓智能體僅觀察局部狀態並與鄰居交互，工具規模超過10萬項。
谷歌搜索引入Gemini 4 Hydrogen
Google推出Gemini4Hydrogen，全球Search迎來最大模型升級AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Nov 13, 202680Google宣佈推出Gemini4Hydrogen，並將其引入全球Google Search，重點提升搜索引擎處理多部分、複雜細節及拼寫錯誤問題的能力。Google稱，這是迄今為止Search最大規模的一次模型升級。與專注複雜推理的Gemini4Carbon和Gemini4Argon不同，Hydrogen主要面向高速代理式工作流，能夠自主完成多步驟任務。Google表示，其任務執行速度比上一代快速模型Gemini3.8Flash快2.5倍。在默認高思考等級下，Hydrogen在Artificial Analysis Intelligence Index基準測試中的表現甚至超過能力定位更高的Gemini4Argon。在搜索場景中，Hydrogen能夠更準確地理解用戶意圖、遵循指令和調用工具，並優化Search的扇出技術，將複雜提示拆分為多個子查詢，以發現更多相關網站。Google AI Mode也將提供更多圖片、結構化答案、對比表格及定製工具，進一步改善多語言搜索體驗。Hydrogen支持低、中、高和新增的超高（xhigh）四檔思考等級，旨在減少輸出Token消耗並提高任務執行效率。在Agent Arena基準測試中，其在深度研究、數據分析和大型代碼庫導航等多步驟任務中排名第五。此外，該模型還可自主編寫代碼、運行測試並驗證代碼修改，也能與Carbon、Argon協同完成工作流。除Google Search外，Gemini4Hydrogen還將登陸Google AI Studio、Gemini API、Gemini App，以及面向AI Pro和Ultra付費訂閱用戶的Google Antigravity開發平臺。
模型推理透明度受訓練取捨影響
Ad Skip to content OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute Maximilian Schreiner View the LinkedIn Profile of Maximilian Schreiner Nov 12, 2026 Nano Banana Pro prompted by THE DECODER Frontier models like GPT-6 Astra are becoming harder for safety monitors to see into.
2026年最佳AI影片生成模型：Elo評分、每秒價格與開放權重
AI影片生成模型的排行榜與12個月前相比已有巨大變化。原生音訊現在已是基本配備，影片片段長度可達15至30秒，且開放權重模型已擠進前三名。這份排名（截至2026年11月13日）採用單一品質指標：來自Artificial Analysis Video Arena的盲測人工偏好Elo評分。我們同時附上API每秒價格與權重的授權狀態。你可以透過我們的GPULeaderboard.com Chrome擴充功能查看部署選項與規格。 方法論：品質方面，Artificial Analysis由經過驗證的評估者進行盲測配對投票，以Elo評分為模型排名。每次投票比較同一提示詞產生的兩段影片。我們依據AA-Video-T2V v2.1（含音訊）排行榜進行排名，同時也提供AA-Video-I2V v2.1分數。基準錨點：Kling 3.0 1080p（Pro）在兩個排行榜上都固定為1000 Elo。
llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem
Back to Articles llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem Team Article Published November 13, 2026 Upvote 21 +15 Daniel Bevenius danbev Follow ggml-org Georgi Gerganov ggerganov Follow ggml-org merve merve Follow ggml-org llama.
88比12！在攻克癌症這件事上，垂類AI比國際主流通用大模型和人類醫生都在行？
作者 | 王涵 編輯 | 漠影 攻克癌症一直是全球醫學界最重大的命題之一，現在這一目標也被AI盯上了。 近期，生物醫藥公司Generate Biomedicines藉助Claude Code重新設計CAR-T療法中的細胞內信號結構域，嘗試在縮短組件長度的同時提升免疫細胞活性。實驗中，一項AI參與生成的設計將信號結構域縮短約70%，使細胞表面受體數量增加約10倍，並展現出更強的腫瘤細胞殺傷能力。 隨著通用大模型的不斷發展，其正逐漸從整理醫學知識、輔助科研，走向疾病研究和臨床診療。