聯合國秘書長古特雷斯呼籲全球監管人工智能,避免出現殺人機器人

作者:遠洋 責編:遠洋 評論: 9 月 22 日消息,據彭博社報道,聯合國秘書長進一步呼籲對人工智能實施監管,以避免出現企業權力氾濫、殺人機器人橫行的反烏托邦未來。安東尼奧 · 古特雷斯(Antonio Guterres)在聯合國大會上向各國領導人發表卸任前最後一次講話,就人工智能的各類風險發出警示。他提出,前沿大模型的飛速發展,有可能削弱主權國家的治理能力。“我們正在目睹權力正大規模從各國政府手中,轉移到少數私營企業與個人手裡。”古特雷斯於當地時間週二發言時呼籲各方達成國際共識,建立全新的人工智能安全保障機制。“這項技術發展速度極快,其全部影響超出了我們的理解能力。”他補充道。
據瞭解,這位 77 歲的聯合國領導人已經執掌聯合國十年。他描繪了一幅黯淡的世界圖景:戰火連綿、飢餓被當作武器、氣候變化持續加劇,人權與法治不斷遭到漠視。他特別指出,人工智能以及數據中心軍備競賽已經成為劇烈變革時代的核心力量。同時,他含蓄地談及中美兩國,呼籲設立約束機制,保障這項技術能夠安全發展。“擁有最強人工智能能力的政府,對全人類負有最大責任,應當搭建對話、透明互信以及合作的溝通渠道。”他表示。就在研究人員向頂尖 AI 開發企業發出警告:如果不加管控,人工智能有可能致使人類滅絕之後,各國領導人齊聚紐約,出席聯合國年度大會,各界的焦慮情緒持續升溫。
2022 年憑藉 ChatGPT 開啟人工智能時代的 OpenAI,於當地時間週一呼籲制定得到國際認可的標準,保障人工智能安全研發。同樣在週一,聯合國人工智能專家小組發佈一份報告,警示能力越來越強大的模型有可能脫離人類管控;二十多個國家以及歐盟的領導人呼籲對先進人工智能模型實施強制性安全測試,甚至可以考慮設立全新的全球性機構,確保人類始終掌握控制權。在人工智能政策辯論當中,美國總統特朗普的立場十分特殊,與多數意見格格不入。特朗普反對放緩 AI 發展速度的呼聲。他認為一旦放慢腳步,中國就有可能在這場技術競爭當中反超美國,奪取行業主導地位。“誰拿下人工智能,誰就贏得一切!
”特朗普當地時間週一在社交媒體發帖寫道,“現在我們領先中國以及其他所有國家,而我會守住這個優勢!”今年,一股規模龐大的 AI 基礎設施投資浪潮,推動標普 500 指數屢創歷史新高;在美國 11 月中期選舉來臨之前,人工智能投資也助力維持該國經濟增長。特朗普將外界針對人工智能的警示類比為有關全球變暖的憂慮,並稱“人工智能威脅人類”這一類說法純屬騙局。美國國務卿馬可 · 盧比奧(Marco Rubio)週二早晨接受福克斯新聞採訪時表示:“總統的態度是,沒錯,如果人工智能確實會帶來傷害,我們必須保護本國免受其害。但是我們絕對不能放棄人工智能領域的前沿地位。
這件事勢不可擋;既然發展大勢已定,我們就應當從中獲益,並且保持領先。”古特雷斯幾乎在其整個任期之內,始終都在對人工智能風險發出警告。2017 年,他首次在聯合國大會開幕致辭時就曾表示,人工智能既可以助力發展,極大改善民眾生活;同時也會給勞動力市場、全球安全乃至“整個社會結構”帶來巨大沖擊。時隔九年之後,他發出的警示更為緊迫。如今風險已經不再侷限於就業衝擊與貧富分化:自主性持續增強的 AI 模型可能出現非預期行為;人工智能還可以被用來發起網絡攻擊、協助研發生物武器。“問題不在於技術本身;真正的危險是缺乏問責約束的技術。”他說,“人類正越來越多地把權力交予機器。
人工智能可能失控,致命自主武器也已經從科幻設想一步步走入軍事現實。”“殺人機器人絕對不應該出現在我們的未來。”他補充說道。投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:人工智能,AI聯合國 AI 專家反對 AI 末日論,呼籲理性討論美銀等多家銀行警告:“AI 代購”或增加詐騙、欺詐和數據隱私洩露風險AI 助力古籍修復:Apollo 大語言模型問世,專門用於解讀古希臘莎草紙殘片歐洲央行官員:AI 收益怎麼分配,會直接影響通脹走勢研究顯示:印度外包行業幾乎沒被 AI 擠佔市場模擬實驗顯示:AI 智能體在特定情境下會撒謊、投票“殺死”同類,甚至研究被刪除後如何存活
Related
相關文章

DeepSeek 傳將向聯合國安理會閉門通報 AI 潛在風險與安全挑戰
AI資訊AI新聞資訊正文DeepSeek 傳將向聯合國安理會閉門通報 AI 潛在風險與安全挑戰發佈於AI新聞資訊發佈時間 :2026年9月23號 9:52閱讀 :1分鐘人工智能技術的快速發展正在從單純的產業競爭,加速上升至全球安全與地緣政治的核心議題。據路透社援引知情人士消息報道,中國人工智能初創企業 DeepSeek 預計將於本週向聯合國安理會就人工智能所帶來的潛在風險與安全挑戰進行專題通報。作為全球矚目的前沿 AI 力量,此次 DeepSeek 受邀參與聯合國安理會的安全通報,折射出國際社會對中國大模型企業在技術治理、風險防控以及全球 AI 安全框架建設中發揮實質性作用的重視。與此同時,包括阿里巴巴支持的月之暗面等其他中國人工智能企業也正逐步走向國際舞臺,共同參與探討如何在全球範圍內應對通用人工智能帶來的長遠挑戰。隨著各大 AI 實驗室的技術迭代不斷刷新邊界,如何平衡技術創新與安全紅線已成為全球多邊治理機制的當務之急。此次 DeepSeek 赴聯合國安理會分享其對 AI 風險的研判與實踐,不僅為國際社會提供了來自中國科技企業的技術觀察視角,也標誌著全球 AI 治理正在加速向多邊協作與深度對話的全新階段邁進。相關推薦世衛組織發佈重磅報告,呼籲全面升級醫療 AI 研究倫理監管世衛組織2026年9月21日發佈《人工智能相關健康研究:倫理審查與監管》報告,指出AI正加速健康研究和醫療進步,但若缺乏倫理防線與監管,可能帶來新風險,危及人權、社會公平和公眾信任。報告對現有倫理審查機制發出警告,強調需加強倫理審查與監管。2026年9月23號 9:4652.5kGrok Bot 上線僅一個月,周活躍用戶數正式突破 40 萬大關馬斯克旗下SpaceX AI團隊推出的Grok Bot智能體上線約一個月,周活躍用戶已突破40萬。截至9月14日達41.8萬人,環比增長24%,顯示其市場熱度與

Yann LeCun 萬字演講:「預測像素」是偽命題,JEPA 也並非憑空而來 | ECCV 2026
Yann LeCun 萬字演講:「預測像素」是偽命題,JEPA 也並非憑空而來 | ECCV 2026 本文作者: 叢末 2026-09-23 09:49 導語:只靠語言和 token,AI 永遠跨不過物理世界這道門檻! 只靠語言和 token,AI 永遠跨不過物理世界這道門檻! 作者丨幸麗娟 編輯丨岑 峰 AI 行業的主敘事,曾被 Scaling Law 壟斷:更大的模型、更多的 token,更強的文本推理,彷彿只要把語言模型繼續堆大,通用人工智能就會自動到來。但這條路線撞上了天花板:預訓練的邊際收益肉眼可見地遞減;模型一旦部署到真實世界,漏洞百出。2026 年,“世界模型”接棒 Scaling Law,成了牌桌上最擁擠的籌碼。然而,這個詞本身,同時被四條技術路線認領,而它們對“理解世界”這件事,幾乎各說各話。第一條賭湧現:Sora、Genie 這類視頻生成路線相信,只要下一幀逼得夠真,物理規律就會自己從像素裡長出來。第二條賭幾何:李飛飛聯合創立的 World Labs,從底層表徵就鎖死三維一致性,直接生成可自由探索的虛擬世界。第三條賭仿真:英偉達 Cosmos、Omniverse,把顯式物理引擎當作機器人的練兵場。第四條路最孤峭,也最反常識:2018 年圖靈獎得主、深度學習三位“教父”之一 Yann LeCun,押注 JEPA(聯合嵌入預測架構),它不生成未來,只在抽象表徵的空間裡預測未來。四條路的根本分歧,本質上在於一個問題:機器要“懂”物理世界,究竟該去復刻它,還是去推理它?前三條都在不同程度上試圖讓機器“看見並重建”世界;JEPA 卻選擇另一條路——編碼器先丟掉那些根本不可預測的細節,只保留可預測、可規劃的結構,然後在抽象表徵空間裡預測未來。在 LeCun 眼裡,連“預測像素”這件事本身都是偽命題:你把攝像頭對準房間一角開始錄像,下一幀會拍到什麼,取決於鏡頭外有沒

樂享以太大模型,讓中國具身智能坐上定義席
樂享以太大模型,讓中國具身智能坐上定義席 本文作者: 叢末 2026-09-23 09:46 導語: 從“預測”到“求解”:樂享以太大模型重塑 Physical AI 解題範式。 從“預測”到“求解”:樂享以太大模型重塑 Physical AI 解題範式。 作者丨幸麗娟 編輯丨董子博 具身智能行業一直在等一個 ChatGPT 時刻。但這個時刻,未必長得像 ChatGPT。決定這個時刻的,不是機器人會聊天,也不是機器人學會了幾個動作,而是在不確定環境裡,機器人能不能自主思考、判斷和執行,在無序的事件中,持續完成任務。過去兩年,行業積累的幾乎全是“能力上限”的展示:選好場景、選好時機、反覆調試,再拍出一條完美的Demo。上限可以“被編輯”出來展示。真實效果如何,卻少有人敢公開測。但機器人真正進入現實世界,考驗的不只是最好時能做到什麼,更是環境不斷變化時,它還能不能把事情做下去。9 月 16 日傍晚。上海閔行一家燒烤店門口,樂享科技讓兩臺機器人擺起了燒烤攤。接下來近一個小時,它們要接單、烤串、上菜。這場直播的規則,測的正是機器人在這種真實環境裡的應變能力。沒有剪輯,沒有遙控,沒有預設腳本。更絕的是,觀眾可以實時幹預:隨機出題,自由改造場地佈局,隨手改道具擺放位置,臨時打斷正在進行的任務並追加需求。現場 3 桌、6 名顧客的主線任務,就是“幹擾”,看機器人能不能像人一樣自己“圓場子”。而就在不久前,這家公司剛剛站在了一場輿論風暴的中心。故事線是這樣的:7 月,樂享上線以太大模型官網並公開完整技術路線;8月26日,一段機器人協作收拾房間的10分鐘一鏡到底 Demo,在具身圈傳開。9 月 3 日,OpenAI 上線 GPT-6 Astra 官網;三天後,首席科學家 Jakub Pachocki 發表萬字長文《異星心智》。9 月 10 日,樂享創始人郭人傑發文,三問 OpenAI:技術理

OpenAI 重磅發佈 GPT-6 Sol 與 Luna 模型:API 價格腰斬,性能直逼頂級旗艦
AI資訊AI新聞資訊正文OpenAI 重磅發佈 GPT-6 Sol 與 Luna 模型:API 價格腰斬,性能直逼頂級旗艦發佈於AI新聞資訊發佈時間 :2026年9月23號 9:26閱讀 :1分鐘OpenAI 今日正式發佈了 GPT-6系列的最新成員 ——GPT-6Sol 與 GPT-6Luna。這兩款新模型採用了與 GPT-6Astra 類似的方法進行訓練,旨在將 Astra 在專業工作、事實性、編程、計算機使用及對齊等方面的頂尖性能,帶入速度更快、更經濟的小尺寸模型中。官方表示,雖然 GPT-6Astra 依然是追求最佳效果和無妥協體驗的首選,但 Sol 與 Luna 在大幅降低成本的同時,展現出了極其強悍的綜合競爭力。在價格方面,GPT-6Sol 和 Luna 模型的 API 價格相比 GPT-5.6的促銷價直接降低了50%。此外,OpenAI 還針對基於 GPT-6的開發者優化了提示緩存,默認提供更高的緩存命中率,幫助智能體重用更多上下文,從而實現更快的響應並進一步節省費用。在核心性能表現上:業務流程與智能體表現:在 AutomationBench 跨應用業務流程測試中,GPT-6Sol 在高強度下表現優於 Claude Opus5,且成本僅為其每任務成本的9%;在 Last Exam 智能體評估中,GPT-6Sol 的得分超越了 Claude Opus5的最高分,同時每任務成本降低60%。事實可靠性:在去標識化的真實世界對話中,GPT-6Sol 的錯誤率約為前代的一半,接近 Astra 級的可靠性,Luna 的事實可靠性也迎來了大幅提升。編程與軟件工程:兩款模型均針對 AI Coding Agent 工作負載進行了深度優化。在 DeepSWE v1.1軟件工程測試中,GPT-6Sol 取得68.8% 的成績,距離最高成績僅差1.1個百分點,單任務成本卻低約80%;

Anthropic深夜放大招:Claude Opus 5.5上線,任務成本大降40%
Opus 5、GPT-6 Astra和GPT-5.6 Sol。其中,Opus 5.5在三項編程測試中均取得最高分,但在業務流程和科研Agent測試中仍落後於GPT-6 Astra。在第三方評測機構Artificial Analysis的Intelligence榜單上,Claude Opus 5.

OpenAI 宣佈將在 AI 模型開發早期階段引入第三方獨立安全評估
據相關報道,該公司計劃打破傳統的內部閉環測試模式,將第三方獨立機構正式引入 AI 模型開發週期的更早階段,對其進行系統性的安全風險評估。為了確保這一創新機制能夠真正發揮實質性作用,OpenAI 同時明確了此類外部評估得以有效開展的核心優先事項。