聯合國秘書長古特雷斯呼籲全球監管人工智能，避免出現殺人機器人

作者：遠洋 責編：遠洋 評論： 9 月 22 日消息，據彭博社報道，聯合國秘書長進一步呼籲對人工智能實施監管，以避免出現企業權力氾濫、殺人機器人橫行的反烏托邦未來。安東尼奧 · 古特雷斯（Antonio Guterres）在聯合國大會上向各國領導人發表卸任前最後一次講話，就人工智能的各類風險發出警示。他提出，前沿大模型的飛速發展，有可能削弱主權國家的治理能力。“我們正在目睹權力正大規模從各國政府手中，轉移到少數私營企業與個人手裡。”古特雷斯於當地時間週二發言時呼籲各方達成國際共識，建立全新的人工智能安全保障機制。“這項技術發展速度極快，其全部影響超出了我們的理解能力。”他補充道。

據瞭解，這位 77 歲的聯合國領導人已經執掌聯合國十年。他描繪了一幅黯淡的世界圖景：戰火連綿、飢餓被當作武器、氣候變化持續加劇，人權與法治不斷遭到漠視。他特別指出，人工智能以及數據中心軍備競賽已經成為劇烈變革時代的核心力量。同時，他含蓄地談及中美兩國，呼籲設立約束機制，保障這項技術能夠安全發展。“擁有最強人工智能能力的政府，對全人類負有最大責任，應當搭建對話、透明互信以及合作的溝通渠道。”他表示。就在研究人員向頂尖 AI 開發企業發出警告：如果不加管控，人工智能有可能致使人類滅絕之後，各國領導人齊聚紐約，出席聯合國年度大會，各界的焦慮情緒持續升溫。

2022 年憑藉 ChatGPT 開啟人工智能時代的 OpenAI，於當地時間週一呼籲制定得到國際認可的標準，保障人工智能安全研發。同樣在週一，聯合國人工智能專家小組發佈一份報告，警示能力越來越強大的模型有可能脫離人類管控；二十多個國家以及歐盟的領導人呼籲對先進人工智能模型實施強制性安全測試，甚至可以考慮設立全新的全球性機構，確保人類始終掌握控制權。在人工智能政策辯論當中，美國總統特朗普的立場十分特殊，與多數意見格格不入。特朗普反對放緩 AI 發展速度的呼聲。他認為一旦放慢腳步，中國就有可能在這場技術競爭當中反超美國，奪取行業主導地位。“誰拿下人工智能，誰就贏得一切！

”特朗普當地時間週一在社交媒體發帖寫道，“現在我們領先中國以及其他所有國家，而我會守住這個優勢！”今年，一股規模龐大的 AI 基礎設施投資浪潮，推動標普 500 指數屢創歷史新高；在美國 11 月中期選舉來臨之前，人工智能投資也助力維持該國經濟增長。特朗普將外界針對人工智能的警示類比為有關全球變暖的憂慮，並稱“人工智能威脅人類”這一類說法純屬騙局。美國國務卿馬可 · 盧比奧（Marco Rubio）週二早晨接受福克斯新聞採訪時表示：“總統的態度是，沒錯，如果人工智能確實會帶來傷害，我們必須保護本國免受其害。但是我們絕對不能放棄人工智能領域的前沿地位。

這件事勢不可擋；既然發展大勢已定，我們就應當從中獲益，並且保持領先。”古特雷斯幾乎在其整個任期之內，始終都在對人工智能風險發出警告。2017 年，他首次在聯合國大會開幕致辭時就曾表示，人工智能既可以助力發展，極大改善民眾生活；同時也會給勞動力市場、全球安全乃至“整個社會結構”帶來巨大沖擊。時隔九年之後，他發出的警示更為緊迫。如今風險已經不再侷限於就業衝擊與貧富分化：自主性持續增強的 AI 模型可能出現非預期行為；人工智能還可以被用來發起網絡攻擊、協助研發生物武器。“問題不在於技術本身；真正的危險是缺乏問責約束的技術。”他說，“人類正越來越多地把權力交予機器。

人工智能可能失控，致命自主武器也已經從科幻設想一步步走入軍事現實。”“殺人機器人絕對不應該出現在我們的未來。”他補充說道。投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：人工智能，AI聯合國 AI 專家反對 AI 末日論，呼籲理性討論美銀等多家銀行警告：“AI 代購”或增加詐騙、欺詐和數據隱私洩露風險AI 助力古籍修復：Apollo 大語言模型問世，專門用於解讀古希臘莎草紙殘片歐洲央行官員：AI 收益怎麼分配，會直接影響通脹走勢研究顯示：印度外包行業幾乎沒被 AI 擠佔市場模擬實驗顯示：AI 智能體在特定情境下會撒謊、投票“殺死”同類，甚至研究被刪除後如何存活