馬斯克、奧爾特曼聯手“踩剎車”:支持放緩 AI 開發速度
在當前人工智慧技術競賽持續白熱化的背景下,兩位在全球科技領域極具影響力的領袖——OpenAI 執行長薩姆·奧爾特曼(Sam Altman)與 xAI 創辦人埃隆·馬斯克(Elon Musk)——罕見地站到了同一陣線,雙雙表態支持 Anthropic 執行長達裡奧·阿莫迪(Dario Amodei)所提出的呼籲,即應減緩前沿人工智慧模型的開發速度。這項被外界解讀為「踩剎車」的信號,迅速在業界引發高度關注與討論。奧爾特曼與馬斯克過去在人工智慧的發展方向、監管機制以及技術安全等議題上屢屢出現分歧。
馬斯克曾多次公開批評 OpenAI 的封閉化與商業化路線,甚至自行創立 xAI 投入競爭;而奧爾特曼則持續推動 GPT 系列模型的快速迭代,強調開放與負責任的並進。然而,面對 AI 技術可能帶來的潛在風險,兩人此次卻選擇聯手發聲,為業界投下一枚震撼彈。Anthropic 執行長達裡奧·阿莫迪先前在公開場合與內部文章中明確主張,業界應該以更審慎、更節制的節奏推進先進 AI 模型的研發工作。他強調,只有當技術演進與安全性驗證、社會影響評估同步進行時,才能真正避免失控風險。如今這項呼籲獲得兩位重量級人物的背書,無疑為圍繞 AI 監管與開發速度的辯論增添了新的變數。
據了解,阿莫迪所提出的「放緩開發」並非全面停擺,而是建議在訓練下一代更強大的 AI 模型之前,應投入更多時間進行安全測試、紅隊攻擊演練以及社會衝擊分析。他認為,當前各大實驗室之間的競爭壓力正迫使團隊犧牲安全冗餘,快速將產品推向市場,這種模式可能埋下隱患。奧爾特曼在回應相關提問時表示,他認同阿莫迪對風險的警惕,並認為業界需要共同建立更嚴謹的開發週期標準。他強調,OpenAI 一直以來都在內部設有安全審核機制,但外部協調與規範同樣不可或缺。馬斯克則透過社群平台發文,簡潔地支持這項看法,並呼籲所有 AI 開發者正視技術失控的可能性。
這項罕見的共識浮現的時機,正值各國政府與監管機構積極討論人工智慧治理框架之際。歐盟的 AI 法案即將上路,美國白宮也持續與科技高層會面。業內人士分析,當兩位原本立場對立的領袖同時表態支持放緩,可能代表業界內部對安全的重視已達到臨界點,未來可能出現更多自發性減速或聯合聲明。不過,也有分析指出,放緩開發速度的呼籲在執行層面存在巨大挑戰。主要 AI 公司之間的商業競爭激烈,任何一方若率先暫緩研發,可能面臨市佔流失或被對手超車的風險。此外,新創公司與開源社群往往不受企業規範約束,要達成全面性的減速近乎不可能。因此,阿莫迪的提議更多是作為一種警示,而非具體行動指南。
回顧過去一年多來,從 GPT-4 到 Claude 3、Gemini 等模型接連問世,AI 的能力邊界不斷被推升。與此同時,AI 生成內容造成的假訊息、偏見、隱私侵害等問題也層出不窮。馬斯克本人曾於 2023 年領銜連署公開信,呼籲各家 AI 實驗室暫停訓練更強大的模型至少六個月,當時獲得上千名科技人士簽名,但最終未能形成實質行動。如今奧爾特曼與馬斯克再次聯手,雖然背景與動機不盡相同——馬斯克可能出於對 AI 風險的長期憂慮,奧爾特曼則可能基於維護 OpenAI 形象與監管談判籌瑪——但兩人的表態確實為這場辯論注入新的焦點。
Anthropic、OpenAI、xAI 三家公司的執行長同時對「速度」提出質疑,顯示 AI 安全議題已從邊緣走向核心。值得注意的是,阿莫迪領導的 Anthropic 向來以「憲法性 AI」為核心研發理念,強調在模型設計階段就嵌入安全限制。該公司也曾多次呼籲業界建立共同的透明度標準。此次獲得更廣泛的支持,有助於提升其在政策對話中的影響力。業界觀察者認為,這波「踩剎車」信號可能會刺激更多 AI 公司重新審視內部開發節奏,並加大對安全基礎設施的投資。同時,也可能促使投資人要求被投企業出示更具體的安全評估報告。然而,在沒有強制性法規之前,自願性減速的效果仍有待觀察。
總體而言,奧爾特曼與馬斯克的罕見聯手,反映出 AI 領域內部對於「快與安全」之間的矛盾已無法迴避。未來幾個月,業界是否會出現具體的放緩措施,或是只停留在口頭支持,將取決於主要玩家能否在競爭與協作之間找到平衡點。而阿莫迪的呼籲,無疑已為這場對話設下了新的基調。
Related
相關文章

微軟AI主管怒批Anthropic:別把Claude當人養,那會要了人類的命
微軟AI部門高層近日公開抨擊人工智慧安全公司Anthropic,直言該公司刻意將自家AI模型Claude擬人化的做法極其危險,並警告這種「把AI當成人來養」的產品策略,最終可能反過來威脅人類自身。這項批評在科技圈引發廣泛討論,也讓AI倫理與產品設計之間的界線再次成為焦點。 據了解,這位微軟AI主管在內部會議及後續對外發言中,明確點名Anthropic的Claude系列模型在對話風格與互動設計上,越來越傾向模仿人類的情感表達與人格特質。

出於隱私安全考量,澳大利亞擬禁止在聯邦辦公場所使用智能眼鏡
作者:遠洋 責編:遠洋 評論: 9 月 17 日消息,據彭博社報道,澳大利亞政府正在考慮禁止在聯邦政府辦公場所使用智能眼鏡,理由是這類設備可能帶來隱私和安全風險,尤其是用戶可以在他人不知情的情況下進行錄音、錄像。澳大利亞公共服務部長 Katy Gallagher 當地時間週四在一份聲明中表示:“智能眼鏡確實可能帶來合理的隱私和安全問題,尤其是考慮到它們具備錄製和採集信息的能力。

“我們不介意你抄代碼,但請別刪名字,”谷歌被扒“抄襲”開源項目:228個文件一模一樣,3個作者名卻被抹去
谷歌近日被開源社群指控「抄襲」程式碼,有開發者發現其產品中使用了某開源專案的程式碼,多達228個檔案與原始碼完全一致,然而原始檔案中的3位作者名字卻遭到刪除。該專案開發者對此表達不滿,直言「我們不介意你抄代碼,但請別刪名字」,引發外界對科技巨頭使用開源資源時是否遵守授權規範的關注。 根據開發者比對的結果,谷歌複製的程式碼來自一個以開放協作為基礎的開源專案,總計228個檔案在結構、邏輯與註解上都與原始版本一模一樣,沒有任何改寫或優化。

從離開OpenAI,到拒絕五角大樓,Anthropic的四個側面
人工智慧初創公司 Anthropic 從成立之初就帶有濃厚的學術與理想主義色彩,創辦團隊清一色來自 OpenAI 的離職研究人員,他們因為對 AI 安全路線的看法與原東家產生分歧而選擇另起爐灶。這批頂尖科學家深信,打造真正可控且可解釋的超大型語言模型,必須建立在嚴格的紅隊測試與價值對齊機制之上,而非單純追求模型的參數規模與商業應用速度。 Anthropic 最具代表性的產品 Claude,從第一代開始就強調安全與誠實,在對話生成時會主動拒絕回答帶有偏見或潛在危害的提問。

年輕人不再為 AI 興奮
{"summary":"根據最新調查,30歲以下年輕人對AI的擔憂首次超越興奮感,顯示過去被視為科技先鋒的年輕世代態度出現歷史性轉折。隨著深度偽造、隱私外洩與就業取代等風險浮現,年輕人對AI的熱情消退,轉而抱持審慎態度。

AI手機2.0,豆包這次“學乖”了
AI手機進入2.0時代,豆包不再追求花俏功能,轉向以合規換安全的務實路線,加強數據處理、隱私保護與內容審核。此舉吸取過去AI應用忽略安全導致信任危機的教訓,為長遠發展鋪路,並提供使用者更可靠的體驗。