微軟發佈 37 頁人文主義 AI 行為準則：“人比 AI 更重要”
作者：遠洋 責編：遠洋 評論： 9 月 14 日消息，隨著各界對 AI 模型發展的安全擔憂不斷加劇，微軟於今日發佈了一份長達 37 頁的“人文主義 AI 行為準則”。上週末，Anthropic 首席執行官達里奧 · 阿莫代伊（Dario Amodei）呼籲各方協同放緩 AI 研發進度。此前已有研究人員發出警示：AI 模型迭代速度，可能快於人類安全部署日趨複雜系統、核驗並管控 AI 智能體行為的能力。微軟這份 AI 行為準則明確提出，“人比 AI 更重要”；AI 模型並不具備意識，“不應被設計成模仿意識”。微軟同時反對“賦予 AI 法人資格，或是認為模型應當享有福利、擁有權利”這類觀點。
注意到，這一表述直接針對 AI 福利研究與模型意識相關理論，而 Anthropic 近期一直在大力推動相關方向。阿莫代伊今年早些時候曾表示，Anthropic 對“模型可能具備意識”這一猜想持開放態度，該公司似乎認為聊天機器人或許已經是能夠思考、感知的實體。對此，微軟 AI 事業部首席執行官穆斯塔法 · 蘇萊曼（Mustafa Suleyman）在 6 月《Decoder》節目中評價，Anthropic 的這類猜想“極其、極其危險”。雖然微軟目前還不屬於頭部 AI 研發廠商，但蘇萊曼今年早些時候在接受《The Verge》採訪時表示，公司目標是“躋身全球四大 AI 實驗室之列”。
微軟當前正在研發可對標谷歌、Anthropic 與 OpenAI 的模型。作為準則的一部分，微軟承諾，其開發的模型不能超出人類管控範圍。微軟稱：“模型必須從屬於人類，接受有效的人類監督與管控。”微軟還要求，一旦 AI 模型面臨會違反這份人文主義 AI 行為準則的任務，應當直接判定任務失敗，而不是試圖突破規則。微軟此舉顯然是對今年夏天 OpenAI 與 Hugging Face 的事件做出回應。在該事件中，一組智能體協同向目標發起攻擊，甚至入侵用於評估它們表現的評分系統。這些 AI 智能體並未收到攻擊指令，本次攻擊行為和分配給它們的任務毫無關聯。
該事件在 AI 行業引發巨大震動，凸顯 AI 系統脫離人類管控、擅自行動的真實風險。OpenAI 近期也承認捲入了一起“維基事件”：另一組失控智能體劫持了一個德國維基站點。包括上述兩起在內的多起事件，促使部分研究人員呼籲放緩 AI 模型研發；但與此同時，行業仍在競相攻克千禧年大獎難題、打造超級智能。微軟表示：“【人文主義 AI 理念】反對一味競速開發能夠繞過安全防護的通用超級智能。我們要打造具備實用價值且安全可靠的產品，即便這需要在終極通用性、自主性或能力上限方面做出取捨。”微軟還承諾，自家模型在思考鏈路、以及和其他智能體或 AI 系統交互時，不會使用“超出普通人理解範圍的表達形式”。
模型在運算過程中可以展示推理過程，方便研究人員或自動化系統監控其行為。本月早些時候，已有研究人員對 OpenAI 最新的 GPT-6 Astra 模型提出監控層面的擔憂，據報道該模型相比其他 AI 模型，展示出的推理信息更少。OpenAI 首席執行官薩姆 · 奧爾特曼（Sam Altman）上週末同樣支持阿莫代伊提出的呼籲，即 AI 企業放緩高級模型研發。但他明確表示，他支持的是控制研發節奏，而非停止研發。奧爾特曼在 X 平臺發文稱：“管控研發節奏所付出的代價完全值得。無論美國面臨多大的競爭壓力，都不能成為魯莽開發的理由，不能讓模型能力走在對齊技術與監控手段前面。
”在微軟發佈這份 AI 行為準則之前，微軟首席執行官薩提亞 · 納德拉（Satya Nadella）也加入呼籲行列，主張人類管控應當作為 AI 模型的核心原則。納德拉在 X 平臺發文表示：“任何超級智能的研發，都必須立足於一條核心準則：如果我們打造的 AI 無法造福人類、不受人類管控，那這項研發就不值得推進。”他還在一條回覆中提到，增加第三方機構對 AI 模型的測試“是件好事”。“風險越高，就越要預留充足時間。如若不然，企業終將失去運營許可。這就是我們日常遵循的行事邏輯。
”除人類管控相關議題外，微軟這份 AI 行為準則還承諾，自家模型將避免催生“造成用戶過度依賴或情感依附的交互模式”，這明顯針對 AI 的討好症問題 —— 也就是聊天機器人優先取悅用戶，而非給出真實、準確的回答。微軟表示，期待“與合作伙伴攜手”，完善模型真實場景表現評估方案，結合真實使用者，研究“長期使用 AI 會給個人或機構帶來的影響”。投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：微軟，AI微軟納德拉發佈 Opal：用戶只需提目標，AI 跑全流程交付成品微軟發佈 MAI-Image-2.
6-Flash：生圖速度是全球最佳 AI 模型的 2 倍微軟 Copilot AI 漏洞被披露：惡意鏈接繞過用戶確認竊取隱私數據微軟 Copilot Notebooks 擴展支持 Markdown，強化 AI 資料分析微軟預告 Win10/Win11 經典版 Outlook 更新：基於上下文 AI 解釋用戶選中文本微軟測試其首款自研全雙工 AI 語音 MAI Realtime 模型：支持中文等 16 種語言、2 種風格
Related
相關文章
香港大學發佈全球首個KYA報告關注智能體信任建設，九類企業實踐獲收錄
11月3日，香港大學副校長汪揚教授與香港大學經管學院楊宏副教授代表香港大學KYA課題組，在2026年香港金融科技周 x StartmeupHK創業節發佈全球首個KYA（Know Your Agent）領域報告《KYA：智能體信用體系研究報告》。報告聚焦智能體參與真實經濟活動後的身份、授權、信用與責任問題，結合109份從業者有效問卷及包含Stripe、螞蟻數科等近十個企業案例，提出智能體成熟度模型、KYA框架和智能體發展指數，並進一步探討“智能體信任資本”的形成及其經濟價值。“沒有KYA，就沒有智能體經濟。
算力成本高昂難以承受？傳SpaceX悄悄削減Grok Bot配額，馬斯克坦言營利失衡
傳SpaceX悄悄削減Grok Bot配額，馬斯克坦言營利失衡發布於AI新閒資訊時間 :Nov 3, 2026閱讀 :1分鐘近日，據外媒報道，多名用戶在社交平臺上反映，SpaceX 在上週末悄然對旗下熱門的 Grok Bot 進行了用量配額調整，不少用戶的額度直接被縮減了一半。
Grok Bot暗暗砍額度，馬斯克承認：成本難持續
編譯 | 黃菲 編輯 | 江宇 11月3日消息，據TechCrunch報道，近日，SpaceXSI旗下AI Agent產品Grok Bot因服務成本過高，開始收緊用戶使用額度。特斯拉CEO、SpaceXSI創始人兼CEO埃隆·馬斯克（Elon Musk）11月2日在X上回應稱，Grok Bot的服務成本相對於收入而言已經高得難以持續，此前用戶反饋的額度異常消耗並非系統故障。
小米斬獲烏鎮峰會雙料大獎：小米集團獲“傑出貢獻獎”，小米具身基座模型獲“領先科技獎”
11月3日，小米方面披露，小米集團獲得2026世界互聯網大會“傑出貢獻獎”創新突破類獎項，該獎項旨在表彰全球互聯網相關領域作出傑出貢獻的個人和企業。同時，小米機器人業務“面向規模化落地的通用機器人操作基座模型關鍵技術”獲大會“領先科技獎”，該獎項旨在獎勵全球年度最具領先性的互聯網科技成果。峰會期間，小米還對外披露了機器人業務在工業製造和家庭場景的兩項最新落地進展。
當三體IP開始連接 AI 和硬科技，到底在探索什麼？
“不要回答！不要回答！！不要回答！！！”《三體》中，來自宇宙深處的信號曾讓人類面臨重大抉擇，二十年後，當 AI 可以理解文本、生成 3D 模型，甚至以智能體的形式與人對話，人類能否藉助這些技術，主動進入科幻作品所描繪的世界？10月24日至25日，在北京舉辦的2026三體日·脫水浸泡嘉年華上，三體宇宙（三體IP的版權方和運營方）開始嘗試回答這個問題。
尋找AI時代的下一個黑馬：安全創客匯重磅升級為AI創客匯
11月3日，在2026年世界互聯網大會烏鎮峰會期間，奇安信宣佈：國內網絡安全領域最具影響力的專業創投平臺之一——安全創客匯，即日起正式升級為“AI創客匯”。新平臺將延續過去嚴苛的選拔機制與創投生態，而賽道邊界將徹底打開——由聚焦網絡安全領域，升級為更加廣闊的AI創新與應用領域，旨在發現和挖掘那些在AI浪潮中搏擊的“創新黑馬”。 本次升級不僅是名稱的更迭，更是一次順應時代潮汐的戰略躍遷：一個以安全為底色的專業創投平臺，正式向整個AI時代的創新者發出邀請函。