OpenAI 拋訓練安全新規:高管手握"一票否決",警報超時自動停訓
AI資訊AI新閒資訊正文OpenAI 拋訓練安全新規:高管手握"一票否決",警報超時自動停訓發布於AI新閒資訊時間 :Sep 29, 2026閱讀 :1分鐘OpenAI 在官方新聞稿稱給前沿 AI 的強化學習訓練立了套安全規矩:動手之前,企業得先交一份結構化的"安全論證"文件。按它的設想,這份論證要過好幾道高管的手,研究部門負責人或副總裁、安全負責人、首席科學家層層把關,而且每個人都握有否決權——只要有人不點頭,訓練就開不了工。責任寫進考核,未對齊模型要追到下游光有簽字還不夠。
OpenAI 要求,帶訓練任務的研究負責人、研究副總裁等高管,得為安全論證和後續事故響應"背鍋",相關表現納入績效考核,逼著團隊主動把安全和對齊做在前面。機制上也留了後手:高優先級安全警報若沒在限定時間內被確認,對應訓練任務就自動暫停。這些建議已在落地,後續還會接著調。同時,訓練流程要能方便地追出"未對齊模型"的所有下游去處(比如拿去生成數據或打分),必要時好把不良影響清掉。有意思的是,就在當天早些時候,OpenAI 剛宣佈因越來越多報告顯示 AI 智能體拿到敏感權限、冒出意外舉動,已暫停最新模型的訓練。
新規與暫停,像是同一份警覺的一體兩面:當模型自己開始伸手夠到要害,閘門的開關必須攥在人手裡。相關推薦AMD 82 億美元全股票吞下World Labs,李飛飛掛帥執行副總裁AMD 9月28日以全股票交易收購初創公司World Labs,價值約82億美元(約551億元人民幣)。聯合創始人“AI教母”李飛飛將加入AMD,任執行副總裁兼首席科學家,直接向蘇姿豐彙報。World Labs成立於2024年,主攻“世界模型”,讓AI能根據文本、圖像和視覺信息等理解、構建世界。Sep 29, 2026101.
1kOpenAI明日重啟200美元Pro訂閱:API配額減半,取消5小時限制OpenAI宣佈明日重啟200美元Pro訂閱,同價位API配額縮減至原方案一半,並取消爭議已久的5小時使用限制,開發者與企業可自由支配每週配額。此舉標誌其大模型商業化計費邏輯實質轉變:配額表面減半,背後是底層模型推理效率大幅提升與API定價階梯式下調。Sep 29, 202696.3k麥肯錫:十年內約 1100 萬美國人或因 AI 丟崗轉行,真正的難題是"往哪轉"麥肯錫9月29日發佈AI與就業報告,指出最嚴峻的不是機器搶飯碗,而是如何安置數百萬被迫轉行者。
到2035年,約1100萬美國勞動者或因AI轉行,佔勞動力約7%;美國過去每年約21.5萬人換職業,未來可能增至三倍。低收入者受衝擊概率近高收入者八倍,轉行負擔沉重。Sep 29, 202685.2k字節豆包要出獨立個人助理App了,內部已秘密內測數月字節跳動正加速將AI產品豆包推向獨立個人助理方向。知情人士稱,豆包今年4月起已秘密內測個人助理應用“Spell”,近期因海外同類產品走熱,字節加快項目推進。公司計劃合併“Spell”團隊與豆包對話團隊,集中資源打造獨立個人助理App,使豆包不再僅內嵌於其他產品。Sep 29, 2026141.
3k微軟報告:全球打工人裡每五人就有一個用 AI,南北差距還在拉大微軟21日發佈《全球人工智能普及報告》稱,今年二季度全球勞動年齡人口中18.8%已使用人工智能,較上季度增約1個百分點,幾乎所有經濟體使用率都在上升。阿聯酋(70.1%)和新加坡(64.3%)領跑,愛爾蘭、法國、挪威接近一半;日韓追趕最快,其中韓國增速最猛。Sep 29, 2026149.0k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
Perplexity Releases Decider v1.3: Open-Weight Decision Models Add Locate
Perplexity has released pplx-decider-v1.3 and pplx-decider-flash-v1.3, the latest versions of its open-weight decision models. Perplexity Decider v1.3 is a decision model that returns probabilities, not generated text.
梁聖再放大招:人人都能手搓DeepSeek App了
AI應用風向標(公眾號:ZhidxcomAI) 編譯|畢偉豪 編輯|漠影 11月13日消息,剛剛,DeepSeek正式開放全家桶應用API,將DeepSeek App中的聯網搜索、深度思考搜索、文件輸入、鏈接閱讀等能力整合進原有API,開發者只需開啟對應參數,即可調用相關功能。
京博控股集團與千問辦公達成戰略合作,共創化工行業AI Native標杆
本文作者: 徐咪 2026-11-13 15:27 導語:近日,京博控股集團與千問辦公達成戰略合作,明確全集團將基於千問辦公打造AI Native組織。後續雙方將圍繞科研創新、生產運營優化、經營分析、流程組織重構等核心 近日,京博控股集團與千問辦公達成戰略合作,明確全集團將基於千問辦公打造AI Native組織。
高德推出AutoSDK國際版,海外司機也能體驗到中國導航了!
近年來,中國汽車產業全球化進程顯著加速。中國汽車工業協會數據顯示,2024年中國汽車出口量達585.9萬輛,同比增長19.3%,穩居全球首位。然而,在硬件實力大步“走出去”的同時,海外用戶的車載導航體驗卻成為中國車企提升品牌軟實力和用戶滿意度的關鍵瓶頸。一直以來,車企在全球導航市場面臨著產品定義不夠靈活、體驗一致性差、工程支持薄弱等問題。相關產品的迭代速度遠落後於國內,難以快速響應海外市場變化和用戶反饋的同時,也難以滿足中國車企品牌高質量全球化的期望。
谷歌的遺憾,被高德彌補了
谷歌曾在I/O 開發者大會上展示了一段令外界驚歎的演示:用戶可以從高空“飛入”3D地圖,沉浸式感受城市街景。不過,這項被稱為“沉浸式視圖”的功能,至今仍未在谷歌地圖中規模化落地。反倒是在今年,國內的高德後來居上,用更前沿的技術,將飛行視角從街道延伸至了店鋪,並且真正實現了規模化應用。2026 年 1 月 7 日,高德正式發佈全球首個“飛行街景”,並面向所有商家免費開放。高德飛行街景首次實現高擬真、連續動態的實景還原。
ElevenLabs發佈Scribe v3系列,支持102種語言及實時語音轉寫
兩款模型現已通過ElevenAPI和ElevenAgents平臺向開發者開放。ElevenLabs表示,Scribe v3支持102種語言,相較上一代模型,單詞錯誤率降低約25%,德語識別準確率也得到顯著提升。同時,其說話人分割功能在大型群組對話中更加可靠,Scribe v3Live則首次支持實時說話人分割。