微軟總裁布拉德 · 史密斯支持獨立評估 AI 安全，還要確保系統處於人類控制之下

作者：清源 責編：清源 評論： 9 月 24 日消息，微軟總裁布拉德 · 史密斯表態支持引入獨立評估方，對 AI 進行安全評估。正在紐約舉行的聯合國大會上，AI 安全以及全球範圍內如何監管 AI 行業，是各國領導人和企業高管重點討論的問題。當地時間 23 日，史密斯接受彭博社採訪時稱，如果 AI 安全只由一兩家機構負責，就很難取得進展。“模型公司固然至關重要，但像微軟這樣提供軟件層、負責控制 AI 智能體並監控智能體行為的公司同樣重要。

”▲ 圖源微軟官網史密斯稱，微軟與親密合作夥伴 OpenAI 設有一個雙方共同派員組成的安全委員會，微軟通過這一委員會參與雙方的 AI 安全討論，並協助判斷模型何時達到可以發佈的安全水平。從報道中獲悉，他還提到，微軟支持為先進系統設置關閉開關，確保系統處於人類控制之下。“安全機制真正需要部署在多個層面。有時，你可能希望政府也能掌握開關，但既然可以在三個或四個地方設置開關，為什麼只把開關放在一個地方？”史密斯還承認，微軟需要調整氣候目標。按照微軟此前的承諾，到 2030 年從大氣中清除的碳將超過自身排放量。

然而報道指出，這一目標的時間表似乎越來越難以實現，部分原因是微軟採用能夠迅速投運的天然氣發電廠，為 AI 數據中心供電。史密斯坦誠道：“我們仍然認為，氣候仍是本世紀最重要的問題之一，但我們現在要問的是，還能不能按照六年前設想的方式實現這些目標？我認為我們發現，必須作出一些調整。

” 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：微軟，AI 安全路透社民調：近四分之三美國人認為 AI 公司在防止災難方面做得不夠OpenAI 呼籲美國牽頭聯合其他國家為前沿 AI 制定全球性標準微軟 AI CEO 蘇萊曼：我們不應創造自己無法控制的東西加州州長簽署行政令，要求專家組建立 AI“緊急停止”機制OpenAI 披露 GPT-5.6 Sol 異常行為：AI 模型會留下指令要求“未來版本的自己”隱瞞自身錯誤“緊急關閉”按鈕真能阻止 AI 失控？“AI 教父”辛頓、Anthropic CEO 阿莫迪都不看好