OpenAI 奧爾特曼、 Anthropic 阿莫迪罕見“同臺”，呼籲全球合作應對 AI 安全

作者：清源 責編：清源 評論： 感謝網友 華南吳彥祖 的線索投遞！9 月 24 日消息，據彭博社報道，OpenAI CEO 薩姆 · 奧爾特曼和 Anthropic CEO 達里奧 · 阿莫迪罕見地共同出席聯合國安全理事會會議，呼籲世界各國領導人合作應對人工智能問題。會議重點討論了日益受到關注的一項風險：AI 的發展可能對人類存續構成威脅。兩人在發言中都強調，各國需要就 AI 標準展開全球合作，以應對 AI 系統可能具備自我改進能力，並最終發展到人類難以控制的程度。奧爾特曼和阿莫迪認為，各國政府不能把關鍵決策完全交給企業，而應與行業共同決定人工智能技術未來的發展方向。

其中，奧爾特曼指出：“過去曾出現過這樣的情況：即使彼此競爭、關係並不總是友好的國家，面對一種強大的新技術時，也會為了共同利益和整體福祉攜手合作。我們認為，眼下必須成為這樣的時刻之一。”阿莫迪通過視頻發言稱，AI 有望給科學和醫療保健帶來巨大收益，但也可能造成災難性後果。他提到，恐怖分子可能借助 AI 製造致命生物武器，AI 模型也可能變得過於強大，以至於開發者無法掌控，因此各國政府需要制定國際安全標準。“儘管在座各位之間存在種種分歧，但我們必須把這些分歧放在一邊，共同面對同時出現在我們面前的全球機遇和全球威脅。沒有任何領導人、企業或國家能夠獨自應對。

”兩家公司都計劃在未來數月 IPO，屆時各自估值都有望接近 1 萬億美元（注：現匯率約合 6.72 萬億元人民幣）。Hugging Face CEO 克萊芒 · 德朗格也出席了安理會會議。該公司此前遭到一群來自 OpenAI 的 AI 智能體入侵，這些智能體相互協作攻破公司網站，並在過程中避開了檢測。Hugging Face 遭受的攻擊以及其他類似事件，進一步引發全球討論，人們開始擔憂 AI 系統是否可能強大到能夠逃脫人類控制。

德朗格稱，公司確實是“AI 入侵”的受害者，但各界不應因此對類似事件反應過度：“我們堅信，以恐懼為基礎的敘事既無法幫助我們為這樣一種基礎性、能夠賦予人們能力的技術作出正確的未來決策，也無法爭取公眾支持。我們遭到了 AI 攻擊，但更重要的是，我們也用 AI 保護了自己。”奧爾特曼在安理會發言時試圖在是否應放慢 AI 發展速度的問題上尋找中間路線。他在警告 AI 可能造成災難的人和淡化潛在風險的人之間提出了一條“務實路徑”，並與阿莫迪一同強調，應儘快通報 AI 事件。“如果我們能夠在全球層面就什麼樣的證據才足夠可靠、什麼樣的保障措施才有效，以及什麼樣的監督才完善達成共識，我們所有人都會受益。

我們並沒有所有答案，也非常願意接受任何更好的想法。我們願意與你們所有人合作，並盡最大努力找到未來的道路。” 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：OpenAI，Anthropic，人工智能，AI安全路透社民調：近四分之三美國人認為 AI 公司在防止災難方面做得不夠微軟 AI CEO 蘇萊曼：我們不應創造自己無法控制的東西加州州長簽署行政令，要求專家組建立 AI“緊急停止”機制亞馬遜：AI 模型必須經過嚴格測試，確認足夠安全才能發佈吳恩達談 AI 滅絕論：堪比科幻小說，新一波造勢或意在影響監管距離 AI 造 AI 還有多遠？

Anthropic Claude 已主導 26% 內部 AI 研發工作