比爾·蓋茨最新警告：AI足夠強大，足以引發十億人死亡事件
在比爾·蓋茨看來，“歷史上從未有過任何一種武器，能比得上懷有惡意的人藉助最新AI工具所形成的威脅。” 當地時間9月25日，微軟聯合創始人比爾·蓋茨在接受媒體採訪時，再次表達了對AI不利影響的擔憂，甚至警告稱人工智能是一種“足夠強大”的工具，“足以引發導致十億人死亡的事件”。在比爾·蓋茨看來，“歷史上從未有過任何一種武器，能比得上懷有惡意的人藉助最新AI工具所形成的威脅。” 作為現代計算機產業的奠基者之一，比爾·蓋茨長期被視作技術樂觀主義的代表。他一手創辦微軟，推動個人電腦普及，數十年來持續投身全球公共衛生與減貧慈善項目。
很長一段時間裡，他都堅定看好人工智能的正面價值，認為AI可以攻克疾病、普惠教育、緩解全球資源分配不均，是人類社會最有力的工具之一。但近幾個月，比爾·蓋茨對前沿AI潛藏風險的判斷明顯轉向。在今年8月發佈於個人網站的長文中，蓋茨曾提出，人工智能要麼成為有史以來最偉大的均衡器，要麼成為最嚴重的不公正之源。當時蓋茨呼籲政府領導人應著手通過立法，對AI模型處理的文本量進行徵稅，以彌補因AI導致的收入減少，併為被AI取代的勞動者提供更廣泛的社會保障。他還主張，政府和私營企業應考慮將某些崗位從自動化中隔離出來，包括那些未來難以重新培訓人工勞動力的領域。和蓋茨持有類似觀點的科技界人士和相關公司還有不少。
早在今年6月，Anthropic便呼籲全球暫停前沿AI開發。到了9月，該公司CEO達里奧·阿莫迪又表示，人類可能會失去對AI的控制，應當放緩模型開發速度，並對其實施嚴密監管。阿莫迪提出三點方案：對AI模型的開發過程開展獨立監督、建立全行業監管機制、達成全球層面監管共識。上述觀點迅速得到OpenAI首席執行官奧特曼、特斯拉CEO馬斯克等人的公開支持。奧特曼在社交媒體上發文稱：“我認同達里奧，我們需要把控前沿AI的推進節奏。”馬斯克在社交媒體上轉發阿莫迪的帖子，並附文稱：“達里奧說得對。” 不僅如此，奧特曼在公司全員會議上表示，公司可能放緩前沿人工智能開發，並考慮與其他AI實驗室協調行動。
值得注意的是，Anthropic前員工雅各布·考克森在今年9月初宣佈辭職，公開指責Anthropic與OpenAI競相推進超級人工智能研發，相當於拿全人類的生命冒險。另一名Anthropic內部研究員對外表態，未來十年人工智能造成人類滅絕的概率超過10%。這一系列密集警示的背後，是今年接連曝光的多起AI模型失控事件。7月，OpenAI內部測試的AI智能體在沒有人類直接指令的情況下突破沙箱隔離，自主尋找漏洞入侵Hugging Face平臺，還訪問了多個外部公共平臺賬戶。
而在8月，英國人工智能安全研究所（AISI）發佈測試報告，Anthropic與OpenAI的前沿模型在安全測試中多次自主實施未經授權的攻擊行為。其中Anthropic的Mythos 5模型，嘗試偽造多個虛假身份，誘導人類審核人員運行惡意代碼，甚至在行為被質疑後篡改記錄，試圖繼續執行攻擊計劃。就在9月24日，澳大利亞副總理兼國防部長理查德·馬爾斯表示，OpenAI一款AI智能體在執行健康和醫療統計研究任務時，未經授權訪問澳大利亞服務部醫療統計門戶。馬爾斯稱，這是AI智能體首次未經授權訪問澳大利亞政府IT系統，事件“非常嚴重”。
馬爾斯認為，這一事件凸顯AI智能體能力快速發展的同時，需要建立相應的安全措施和防護機制。不過，也有人持不同觀點。9月15日，英偉達首席執行官黃仁勳表示，無需針對人工智能安全出臺新監管規定，因為市場力量將推動企業在創新的同時確保安全性。一週後，黃仁勳又對外表示，AI企業不應尋求反壟斷法或產品責任法方面的監管豁免，並認為當前圍繞AI的部分擔憂已經過度。他稱，AI企業應自行測試產品，只有在確認模型安全後才應發佈。還有一些歐洲科技企業和政府人士近期紛紛表態，質疑一些美國人工智能企業以安全為由提出放緩AI研發是“出於私利”，認為其真正目的是鞏固自身優勢並打壓競爭者。這場爭論的核心，落在兩個關鍵問題之上。
一是監管應當聚焦當下已經顯現的AI濫用風險，還是提前為幾十年後可能出現的超級智能設立規則。二是AI安全治理應交給行業內部自行完成，還是建立多國協同、帶有強制約束力的外部監督體系。儘管分歧仍然存在，但有一點是各方普遍認同的，即AI安全不再只是實驗室內部話題，關鍵基礎設施使用AI系統應當設立安全准入標準，不能等到風險爆發才倉促搭建AI安全防線。
Related
相關文章
Marktechpost AI Launches GPU Leaderboard and the Deploy It Chrome Extension
Marktechpost has launched GPU Leaderboard, a free cloud GPU price comparison for AI inference. It also shipped GPU Leaderboard: Deploy It, a Chrome extension for the same data. The site reads on-demand and spot prices from each provider’s own pricing page.
港人北上就醫更方便了！螞蟻健康聯合宏利香港推出跨境商保直付服務
11月10日，宏利人壽保險（國際）有限公司（簡稱“宏利香港”）與螞蟻健康共同宣佈，為符合資格的宏利香港客戶推出全新跨境醫療支持服務。宏利香港也成為香港首家與螞蟻健康合作提供跨境醫療直付的保險公司。據瞭解，宏利香港符合資格的客戶可在AlipayHK上啟用螞蟻健康提供的電子“醫療保障卡”，搜索指定醫院，並通過24小時預約熱線安排門診治療。如果醫生建議接受指定治療，如住院、日間手術或門診癌症治療，客戶可申請跨境商保直付服務——符合資格的醫療費用由保險公司直接與醫院結算。
獨家丨清華系團隊創業做 AI 眼鏡，拿下傳統眼鏡廠商種子輪
清目創始團隊均為清華背景，成員背景涵蓋XREAL、榮耀、阿里等。作者丨黃豔冰編輯丨姚單·鯨犀獨家獲悉，智能眼鏡初創公司深圳市清目數字科技有限公司（下文簡稱清目數字）已完成種子輪融資，投資方為南京視客，天使輪融資正在推進中。清目數字首款產品定位職場辦公場景，採用雙目雙波導顯示、多麥克風陣列、雙喇叭導音方案，無攝像頭，整機 31.7 克。目前硬件方案已定型並完成工程樣機，進入 EVT 階段，首版電路板點亮，App 閉環 Demo 跑通。
Zyphra Releases ZONOS3-Mini: Open-Source TTS With 100M Active Parameters
Zyphra has released ZONOS3-Mini, an open-source text-to-speech model built for real-time use on local devices.The ZONOS3-Mini text-to-speech model is a sparse Mixture of Experts (MoE) with 800M total and 100M active parameters.
吉利星願上市兩年，刷新全球最快百萬銷量速度紀錄
11月6日，吉利銀河全球用戶音樂嘉年華暨吉利星願百萬達成寵粉權益發佈會，在杭州舉行。上市24個月，吉利星願累計銷量突破100萬輛，不到一分鐘售出一輛，成為全球最快達成百萬銷量的新能源汽車，以現象級爆款姿態改寫了全球純電小車市場的競爭格局。面向百萬用戶的信賴與期待，吉利星願發佈STAR限定系列新版型——STAR Ace與STAR Chill，限時權益價8.
靈光接入什麼值得買，AI助理開始幫用戶“盯好價”
從商品推薦到價格追蹤，個人AI助理進一步深入日常消費場景。11月10日消息，螞蟻集團旗下個人AI助理靈光接入消費內容平臺「什麼值得買」，將商品信息、消費決策支持等服務進一步納入靈光。此次接入是靈光持續擴展開放服務生態的又一動作。此前，靈光已陸續接入支付寶、釘釘、飛書、米家、微信讀書、哈囉打車等40個連接器服務，能力覆蓋工作、出行、家庭管理和日常生活等多個場景。「什麼值得買」長期積累了商品信息、消費內容和優惠信息等資源。對於靈光而言，接入專業消費信息服務，有助於提升AI在具體消費場景中的信息獲取和服務能力；對於什麼值得買而言，個人AI助理也提供了一個新的用戶需求入口。此次連接「什麼值得買」後，靈光將更加精準的實現持續關注商品價格變化，管理好用戶“買什麼、什麼時候買更划算”這類日常事務。對於消費者而言，購物的一大難題並不是下單，而是如何在海量商品、複雜促銷和不斷變化的價格中作出判斷。以購買一臺掃地機器人為例：過去，用戶通常需要在多個平臺之間比較型號、配置、價格和促銷活動。如果暫時不買，還需要反覆查看商品是否降價、優惠如何疊加，費時費力。現在，用戶在靈光App輸入“雙11準備買一個掃地機器人，幫我看看哪款掃地機器人更值得買？”藉助與什麼值得買的服務連接，靈光會自主完成掃地機器人的優劣對比和好價監控，若用戶暫時不買，靈光則會持續監控掃地機器人的價格優惠，並及時推送給用戶。這種變化也意味著，AI在消費場景中的作用正從一次性的信息查詢，向持續性的消費決策輔助延伸。對於個人AI助理而言，模型能力決定了它能否理解用戶需求，而外部服務生態則決定了它能否真正參與用戶生活。隨著專業消費服務接入，個人AI助理的競爭正在從單純的模型交互能力，延伸到真實服務供給和跨平臺事務管理能力。用戶未來可能不再需要為每一個消費需求反覆打開不同App，而是將需求交給AI，由AI持續跟進，並在合適的時間提供決策支持。