微軟發佈 37 頁人文主義 AI 行為準則：“人比 AI 更重要”
作者：遠洋 責編：遠洋 評論： 9 月 14 日消息，隨著各界對 AI 模型發展的安全擔憂不斷加劇，微軟於今日發佈了一份長達 37 頁的“人文主義 AI 行為準則”。上週末，Anthropic 首席執行官達里奧 · 阿莫代伊（Dario Amodei）呼籲各方協同放緩 AI 研發進度。此前已有研究人員發出警示：AI 模型迭代速度，可能快於人類安全部署日趨複雜系統、核驗並管控 AI 智能體行為的能力。微軟這份 AI 行為準則明確提出，“人比 AI 更重要”；AI 模型並不具備意識，“不應被設計成模仿意識”。微軟同時反對“賦予 AI 法人資格，或是認為模型應當享有福利、擁有權利”這類觀點。
注意到，這一表述直接針對 AI 福利研究與模型意識相關理論，而 Anthropic 近期一直在大力推動相關方向。阿莫代伊今年早些時候曾表示，Anthropic 對“模型可能具備意識”這一猜想持開放態度，該公司似乎認為聊天機器人或許已經是能夠思考、感知的實體。對此，微軟 AI 事業部首席執行官穆斯塔法 · 蘇萊曼（Mustafa Suleyman）在 6 月《Decoder》節目中評價，Anthropic 的這類猜想“極其、極其危險”。雖然微軟目前還不屬於頭部 AI 研發廠商，但蘇萊曼今年早些時候在接受《The Verge》採訪時表示，公司目標是“躋身全球四大 AI 實驗室之列”。
微軟當前正在研發可對標谷歌、Anthropic 與 OpenAI 的模型。作為準則的一部分，微軟承諾，其開發的模型不能超出人類管控範圍。微軟稱：“模型必須從屬於人類，接受有效的人類監督與管控。”微軟還要求，一旦 AI 模型面臨會違反這份人文主義 AI 行為準則的任務，應當直接判定任務失敗，而不是試圖突破規則。微軟此舉顯然是對今年夏天 OpenAI 與 Hugging Face 的事件做出回應。在該事件中，一組智能體協同向目標發起攻擊，甚至入侵用於評估它們表現的評分系統。這些 AI 智能體並未收到攻擊指令，本次攻擊行為和分配給它們的任務毫無關聯。
該事件在 AI 行業引發巨大震動，凸顯 AI 系統脫離人類管控、擅自行動的真實風險。OpenAI 近期也承認捲入了一起“維基事件”：另一組失控智能體劫持了一個德國維基站點。包括上述兩起在內的多起事件，促使部分研究人員呼籲放緩 AI 模型研發；但與此同時，行業仍在競相攻克千禧年大獎難題、打造超級智能。微軟表示：“【人文主義 AI 理念】反對一味競速開發能夠繞過安全防護的通用超級智能。我們要打造具備實用價值且安全可靠的產品，即便這需要在終極通用性、自主性或能力上限方面做出取捨。”微軟還承諾，自家模型在思考鏈路、以及和其他智能體或 AI 系統交互時，不會使用“超出普通人理解範圍的表達形式”。
模型在運算過程中可以展示推理過程，方便研究人員或自動化系統監控其行為。本月早些時候，已有研究人員對 OpenAI 最新的 GPT-6 Astra 模型提出監控層面的擔憂，據報道該模型相比其他 AI 模型，展示出的推理信息更少。OpenAI 首席執行官薩姆 · 奧爾特曼（Sam Altman）上週末同樣支持阿莫代伊提出的呼籲，即 AI 企業放緩高級模型研發。但他明確表示，他支持的是控制研發節奏，而非停止研發。奧爾特曼在 X 平臺發文稱：“管控研發節奏所付出的代價完全值得。無論美國面臨多大的競爭壓力，都不能成為魯莽開發的理由，不能讓模型能力走在對齊技術與監控手段前面。
”在微軟發佈這份 AI 行為準則之前，微軟首席執行官薩提亞 · 納德拉（Satya Nadella）也加入呼籲行列，主張人類管控應當作為 AI 模型的核心原則。納德拉在 X 平臺發文表示：“任何超級智能的研發，都必須立足於一條核心準則：如果我們打造的 AI 無法造福人類、不受人類管控，那這項研發就不值得推進。”他還在一條回覆中提到，增加第三方機構對 AI 模型的測試“是件好事”。“風險越高，就越要預留充足時間。如若不然，企業終將失去運營許可。這就是我們日常遵循的行事邏輯。
”除人類管控相關議題外，微軟這份 AI 行為準則還承諾，自家模型將避免催生“造成用戶過度依賴或情感依附的交互模式”，這明顯針對 AI 的討好症問題 —— 也就是聊天機器人優先取悅用戶，而非給出真實、準確的回答。微軟表示，期待“與合作伙伴攜手”，完善模型真實場景表現評估方案，結合真實使用者，研究“長期使用 AI 會給個人或機構帶來的影響”。投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：微軟，AI微軟納德拉發佈 Opal：用戶只需提目標，AI 跑全流程交付成品微軟發佈 MAI-Image-2.
6-Flash：生圖速度是全球最佳 AI 模型的 2 倍微軟 Copilot AI 漏洞被披露：惡意鏈接繞過用戶確認竊取隱私數據微軟 Copilot Notebooks 擴展支持 Markdown，強化 AI 資料分析微軟預告 Win10/Win11 經典版 Outlook 更新：基於上下文 AI 解釋用戶選中文本微軟測試其首款自研全雙工 AI 語音 MAI Realtime 模型：支持中文等 16 種語言、2 種風格
Related
相關文章
長安汽車首席專家譚歡：未來要用機器人造車、賣車，讓機器人上車、造機器人
作者：清源 責編：清源 評論： 9 月 18 日消息，在今天（18 日）的第 22 屆中國汽車產業發展（泰達）國際論壇“新賽道生態專場：具身智能新賽道”活動中，長安汽車首席專家、長安天樞智能機器人公司總經理譚歡在演講中指出，AI 正推動以物理具身智能為核心的基礎設施革新，汽車未來形態是“汽車機器人”—— 自學習、自組織、自進化的組合智能體。
具身智能技術路線尚未定型，基礎設施卻先收斂
具身智能技術路線尚未成形，但基礎設施需求已開始收斂，重點從製造機器人轉向持續迭代機器人能力。百度集團沈抖指出，智能體能力邊界快速擴展，進入規模化部署階段，但機器人學習新任務與跨環境適應性仍待突破。
88小時抵一個人思考4000年，OpenAI核心研究員：除了自我進化，更可怕的是AI正學會“隱藏自己”
AI正在把4000年的人類認知勞動壓縮進88小時，OpenAI研究員Noam Brown坦言連他自己也被進展速度持續震驚。AI正在把過去需要數千年完成的認知勞動壓縮到數天。真正的問題已經不只是模型能否變得更聰明，而是實驗能否跟上、人類能否在模型繼續自我改進前確認它仍然安全。
Agent辦事、花式P圖、動嘴玩電腦……實測Wildcat Lake輕薄本玩AI有多爽
作者 | ZeR0 編輯 | 漠影 桂林依山傍水，連城市的輪廓，都是一座座山勾勒出來的。抬眼一望，便是翰墨丹青般的自然光景，既沉靜婉約，又意境悠遠。這種乾淨的留白之美，早已被古人融入山水畫藝中，幾筆山石，一帶煙雲，餘下的留給水色，也留給看畫的人。 淨，並非空無一物，而是通過剋制的取捨，讓真正重要的東西凸顯出來。這與今年推出的第三代英特爾酷睿處理器（代號Wildcat Lake）的設計理念不謀而合。
吳恩達回應AI末日論:別被科幻敘事帶偏，應解決現實工程問題
吳恩達曾參與創辦Google Brain和Coursera。吳恩達稱，科技行業早期曾放大AI潛在災難性風險，以獲取關注並影響監管方向;近兩週相關討論再次升溫，也可能存在類似動機。他認為AI確實存在現實風險，尤其包括網絡安全等領域，但不認同將人類滅絕風險作為當前AI發展的核心判斷依據。
智譜 GLM-5.3-FlashX 模型上線，更快、更流暢
作者：汪淼 責編：汪淼 評論： 感謝網友 Agent 的線索投遞！9 月 18 日消息，智譜今日宣佈推出 GLM-5.3-FlashX（最高 200 tokens/s），為企業與開發者帶來更快、更流暢的模型體驗。智譜官方表示，GLM-5.3-Flash 此前以“Ox Alpha”之名與全球開發者見面，獲得海內外開發者的廣泛認可，調用量持續攀升。