行業“教父”“教母”齊發聲：辛頓、李飛飛、吳恩達呼籲保持 AI 一定程度的開放

作者：清源 責編：清源 評論： 8 月 13 日消息，據外媒 TechCrunch 今天（13 日）報道，諾貝爾獎得主傑弗裡 · 辛頓、World Labs 聯合創始人兼 CEO 李飛飛及 Coursera 聯合創始人吳恩達近日分別闡述了自己對 AI 開放的立場。三人上週在拉斯維加斯舉行的 Ai4 大會上討論了這一問題。具體解決方案雖然各不相同，但三人都提出了充分理由，認為 AI 仍需要保持一定程度的開放。三人擔心的是，AI 技術的發展速度最終由少數大型公司掌控。

當少數企業壟斷一項技術的使用渠道時，就可能出現類似蘋果和谷歌控制移動操作系統的局面：創新速度下降，平臺所有者也能影響開發者能夠在平臺上創造什麼。企業天然希望保護競爭優勢，也可能通過影響行業規則來實現這一目的。長期發展下去，最先進的 AI 系統可能只有規模最大、資本最雄厚的企業才有能力開發。辛頓不認為開放權重模型一定有助於維持這種競爭格局。他特別區分了開源軟件和開放權重模型：開源軟件會公開底層代碼，任何人都可以檢查和修改；開放權重模型則是將訓練完成後的模型參數直接公開。辛頓表示：“開源很好。代碼公開以後，很多人會逐行檢查，然後指出，‘哦，這裡有個漏洞。

’但是，開放權重完全不是一回事，你先訓練一個大模型，再把模型權重交給所有人。我反對開放權重，因為基礎大模型的訓練成本非常高，人們拿到模型以後，卻可以用少得多的錢繼續訓練，讓模型從事網絡攻擊之類的惡意活動。”辛頓同時承認，關於是否應該允許開放權重模型的爭論實際上已經結束。“我認為那場爭論已經輸了。開放權重模型已經存在，過去阻止大量人獲得大模型的主要門檻，也就是訓練基礎模型的成本，已經消失了。現在已經太晚了。”接受開放權重模型已經存在，並不意味著可以忽略潛在風險。“擔心 AI 可能產生的不良後果，以及比人類更聰明的智能體可能會做什麼，我認為並不過分。

把所有持這種觀點的人都說成是在散佈恐慌，才是不公平的。”辛頓認為，AI 會繼續進步，而且總體上會在提高生產力、改善教育和醫療等領域帶來積極影響。吳恩達的關注點不同。他認為，真正的問題不是開放模型有沒有風險，而是誰掌握模型使用渠道，以及誰最終能夠佔領市場，能夠以更低成本開發模型的一方會取得優勢。“我希望我們能夠推動美國的競爭力和開源 AI。我擔心的是，美國國內大量的遊說和恐慌渲染，讓美國開源 AI 越來越難與中國推出的開放權重模型競爭。”吳恩達同時主張保留多個 AI 供應商，讓模型和企業彼此競爭，避免市場被少數參與者控制。“如果只能給一個建議，我會選擇推動開放。

AI 是一項令人驚歎的技術，我希望所有人都能掌握。我不希望，AI 領域出現限制所有人獲取和使用 AI 的‘守門人’。”李飛飛認為，不應該把問題簡化成開放和封閉之間的二選一。“把問題變成從完全開放到完全封閉的二元對立非常危險。無論複雜的軟件系統還是科學體系，實際情況都要細緻得多。”李飛飛用核物理舉例：科學論文可以公開發表，鈾必須受到監管，實驗室研究則處在兩者之間。她認為，開放並不是只能在“完全開放”和“完全封閉”之間二選一，AI 生態系統的不同層面完全可以採用不同程度的開放。

她還以人類基因組計劃為例說明公共機構和私營機構合作的價值：該計劃產生的知識成為其他機構繼續開展工作的基礎，製藥企業可以從中盈利，科學家能夠進一步推進研究，社會也因此受益。“我認為，我們必須把 AI 當作類似的基礎設施。在科學發現、教育和全球合作中需要一定程度的開放，也需要讓創業者擁有能夠盈利的商業模式。閉源系統同樣可以存在。尤其是‘只能容忍其中一種模式’這種過於籠統的爭論，本身就是一個錯誤命題。我們需要進行更加細緻的討論。”三人都認同，一定程度的監管仍然是確保 AI 沿正確方向發展的必要條件。辛頓表示：“我們希望 AI 朝著幫助人類的方向發展，監管可以幫助我們做到這一點。

不能把 AI 應該如何發展的決定權交給馬斯克和扎克伯格這樣的人。” 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：人工智能，傑弗裡 · 辛頓，李飛飛，吳恩達消息稱美國 AI 網絡安全審查機制未來很可能會覆蓋前沿開源模型手語人工智能首次進入消費級：谷歌 DeepMind 推出手語轉文本模型消息稱 Anthropic 正洽談以 60 億美元收購 AI 初創公司 Decart AIMistral AI 自家平臺開放第三方模型接入：首個為智譜 GLM-5.

2在線旅遊公司 Booking CEO：希望每個員工掌握 AI 素養，以應對不時之需清閒智能推出 OC1 煥新版人體工程學椅：五檔調節 + 加長頸枕，3299 元