圖靈獎得主薩頓警告：AI 行業過度依賴合成數據是一個大錯誤
作者：遠洋 責編：遠洋 評論： 8 月 19 日消息，裡奇 · 薩頓（Rich Sutton）是當今人工智能熱潮背後關鍵技術的先驅之一，但如今，他認為科技巨頭為了讓 AI 持續發展而採取的路線存在嚴重問題。這位加拿大計算機科學家、圖靈獎得主在當地時間週二發佈的紅杉資本播客節目中表示，AI 行業越來越依賴合成訓練數據，這可能正在把整個行業帶向錯誤的方向。當被問及使用合成數據是否能夠幫助大型語言模型持續擴展時，薩頓直言：“這絕對是個大錯誤。也許這會成為下一條重要的經驗教訓。”所謂合成數據，是指由算法或 AI 模型人工生成的信息，而不是從真實世界的原始數據中採集而來。
隨著 AI 公司不斷搜尋互聯網以及其他新的訓練數據來源，合成數據的吸引力也越來越高。例如，自動駕駛訓練可以使用計算機生成的汽車圖像，AI 欺詐檢測系統則可以使用虛構的銀行交易記錄。某種程度上，科技巨頭也認同薩頓的觀點。各大科技公司正在不惜一切代價尋找更多真實數據。OpenAI 此前公開尋找大規模、專有的數據集，希望獲得那些無法輕易從互聯網上獲取的數據，用於訓練 AI 模型。本週早些時候，谷歌同意支付 1,000 萬美元（注：現匯率約合 6,756.9 萬元人民幣），收購已經破產的 Spirit Airlines 內部數據和軟件，這也凸顯出專有真實數據對於 AI 訓練的價值正在不斷提升。
薩頓在週二的播客中表示，人工製造的數據並不能充分替代真實數據。他以人類行為為例進行了說明。“我們不可能為其他人的思想製造合成數據。”他說。薩頓更傾向於使用真實的體驗數據，也就是 AI 智能體通過與真實環境互動、觀察實際發生的事情，並不斷從行動結果中學習所獲得的信息。“你無法通過合成數據預測無人機在現實物理世界中會如何與環境互動。”薩頓說。他還指出，機器人的電機中存在摩擦和磨損等變量。“這個世界無比複雜，任何對它的模擬都不過是管中窺豹。”如今，這一理念已經成為一家初創公司的發展方向。上個月，薩頓與他的前學生 Khurram Javed 共同創辦了 Oak Lab。
這家初創公司正在開發能夠持續從自身經歷中學習的 AI 智能體，而不是主要依賴規模龐大、提前整理好的數據集。目前，Oak Lab 尚未公佈融資輪次或投資者信息。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：AI，人工智能，合成數據整活網頁 Your AI Slop Bores Me 上線：真人扮演 AI 回答用戶提問美國政府完成先進 AI 模型自願性評估框架制定，內容未公開經濟學家漢克：AI 成本極高，難以大規模取代人力未披露使用 AI 輔助創作引爭議，海外科普博主 Hank Green 致歉AI 競賽背後，從業者健康成為新代價研究：AI 會削弱人類批判性思維，降低人們說“我不知道”的意願
Related
相關文章
消息稱 NVIDIA 考慮向 Perplexity AI 投資“數十億美元”
作者：溯波（實習） 責編：溯波 評論： 8 月 24 日消息，外媒 The Information 稍早前報道稱，NVIDIA（英偉達）考慮在 Perplexity AI 的最新融資輪中向這家人工智能初創企業投資“數十億美元”。雙方正就該交易展開磋商，還可能達成技術授權協議。
Rabbit做了個“所有Agents的Agent” ，體驗後我覺得Agent早就該長它這樣
Rabbit推出了一個被稱為「所有Agents的Agent」的新產品，實際體驗後讓人覺得Agent早就該長這樣。文章認為Agent普及的關鍵並非增加更多能力，而是讓用戶少理解十個概念，降低使用門檻。
Guidelight評估五大AI實驗室，OpenAI遏制能力排名第一
該評估覆蓋Anthropic、Google、OpenAI、Meta和xAI，僅依據公開信息考察其是否建立監控、異常行為處置、第三方審計及失控模型關閉等機制。在滿分5分的評估中，OpenAI以3分排名最高，Anthropic和Meta得分最低。
τ_0-VLA長程操控
τ₀-VLA是一種層次化機器人基礎模型，透過世界模型引導的測試時計算來改善長程操控任務。高層策略在決策不確定時會額外分配計算資源，搜尋替代子任務並預測其視覺結果，而低層策略則在40,115小時的異質真實世界數據上訓練。在包含13到25個步驟的真實長程任務中，封閉迴路成功率從27.5%提升至45.0%。