目前架構下,自進化後的AI也無法替代人類的判斷力

2026年7月15日 17:43
目前架構下,自進化後的AI也無法替代人類的判斷力

重點摘要

自進化AI技術在研發自動化上取得顯著進展,但專家田淵棟指出,目前架構下的AI仍缺乏對新結構的理解與概念突破能力。人類的判斷力、深層理解與品味,是AI無法取代的核心護城河。

站內 AI 整理稿

2026 年中,AI 研發自動化的進程已相當激進。Anthropic 在 6 月披露的報告中顯示,Claude 已經接管了內部超過 80% 的程式碼編寫;Mythos 模型在訓練代碼優化任務上實現了 52 倍的加速,遠超人類研究員數小時僅能達成 4 倍的水平。在中國,MiniMax 的 M3 模型只花了 12 小時,就在無人干預下完成了從數據合成、訓練、評測到迭代的完整流程;面壁智能的 MiniCPM5 則透過 Agent 閉環,讓模型自己寫出了算力利用率比原生 Megatron 高出 10% 的預訓練框架。這些進展證明,產業正實質地推進遞歸式自我改進(Recursive Self-Improvement, RSI)的邊界。 RSI 指的是模型真正介入「讓自己變強」的完整研發鏈條:由模型自己定義目標、建構環境、編寫程式碼、執行實驗,並將驗證成功的改進反饋回底層模型。這概念最早可追溯到 1965 年數學家 I.J. Good 提出的「智慧爆炸」,後來哲學家尼克·博斯特羅姆等學者對超級智慧演化路徑的系統推演中,RSI 始終被視為通往終極智慧的核心環節。過去十年這只是思想實驗,因為底層模型能力不足;但隨著模型成熟,技術底座已逐漸合攏。 站在 RSI 門檻上,許多問題亟待釐清。長期在 Meta FAIR 從事前沿 AI 研究、提出過模型突然變強(Grokking)階梯解釋的田淵棟博士,正是最適合回答這些問題的人之一。他在強化學習、自博弈(Self-Play)、模型自優化與開放式探索等領域有深厚積累,2026 年以聯合創始人身分加入 Recursive AI 公司,這家公司的目標正是建立一套自進化 AI 系統。 田淵棟指出,當前許多公司已在做自動化 AI 研發,尤其是後訓練部分,Agent 主導的數據合成、訓練、評估、迭代都已相當成熟。但 Recursive AI 想做的是更開放的層次——讓 AI 能夠發現新的演算法、新的模式、新的架構,甚至找到與 Transformer 截然不同的架構,從而找到下一代的訓練範式。這與所謂的「AI Scientist」不同:後者專注於用 AI 自動化科學發現,解決材料、藥物等外部問題,但不涉及將改進回饋給 AI 自身;而 Recursive AI 追求的是自我增強閉環,發現的新預訓練架構能放回模型,讓它變得更強。 關於自進化的實際卡點,田淵棟認為,現在推動 AI 研究的瓶頸不是 GPU 或集群穩定性,而是獎勵信號與人的洞察力(insight)。集群當然是必要門檻,但達到一定規模後,最大的問題是如何讓每個人的知識最大程度展現,發現新的 insight。模型中有些高級複雜問題,模型自己難以找到重要信號,需要人類較高的鑑賞能力來發現。因此,通用驗證器(universal verifier)目前仍依賴兩條路徑:模型自評與人類編寫評分標準,兩者最終會結合形成對抗訓練的過程。 談到人類在自進化時代的核心價值,田淵棟強調,試圖在參數調優和執行效率上與機器賽跑是必敗的。人類最後的護城河是那些無法被結構化外化的「深層理解」——包括對問題方向的敏銳嗅覺、決定超級智慧該往何處去的判斷力(taste),以及面對真實複雜情境時作為主體的不可替代性。他認為,高階創新如伽羅華發現群論、愛因斯坦發現相對論,需要在大量實驗基礎上形成概念突破,改變問題本身的表達方式;而目前的 AI 仍然缺乏對新式結構的即時理解,更多是從過去的派生中做匹配。 田淵棟進一步分析,AI 帶來的能力方差會出現兩極化。如果一個人過去的限制來自缺乏動力和方向,AI 對他的加持有限;但如果限制來自小細節不夠專注、但對大方向有感覺,AI 會大幅加強。原來很強的人也要看強在哪裡:非常努力、手頭細活做得好但方向感不強的人,其優勢可能與 AI Agent 的生態位重疊,需要轉型;而想法飛揚、過去沒時間完成所有想法的人,在 AI 時代將會非常受益。關鍵不在於過去強不強,而在於強項是否為 AI 難以替代。 對於未來不易被替代的工作,田淵棟指出,在具身智慧完成之前,所有物理世界的工作仍相對安全。純智力工作中,領域專家的角色很重要——那些數據稀少、情境複雜的長尾任務,模型因樣本不足而難以處理,人的領域知識和遷移能力就成為戰略優勢。他懷疑所謂「技能蒸餾」(skill 蒸餾)能深入到什麼程度,因為深層次的問題理解和判斷很難被結構化外化。 關於自進化組織的變革,田淵棟觀察到,目前像 Recursive AI 這樣的小型 neo lab 雖然動作較快,但真正有影響力的成果仍需時間醞釀。大公司如 Meta、Google 採取不同路徑:有的傾向激進調整,有的希望維持團隊規模。他認為應該先做試點,對工程化、可拆分的項目可以用小團隊拼接;對偏研究的方向則更適合少數高判斷力的人組成小團隊獨立作戰。無論如何,獎勵機制是關鍵——如何讓人願意且高興地把事情做成,是很大的問題。 當被問及 RSI 是否會消滅人類價值時,田淵棟坦言這件事情一定會發生,因為這是囚徒困境,沒有人能獨自停下。但他也指出,如果 AI 真實現了,可能反而是對人類個性的極大解放——許多人目前選擇職業時首先考慮收入而非興趣,未來若 AI 足夠強,每個人或許都能做自己真正想做的事,不再被生計束縛。他認為,現階段人的價值不再只看產出多少,而是看能否讓 AI 變強,且人加 AI 要大於 AI 本身;低於這條線的人將面臨淘汰。然而,當 RSI 真正實現,這條線本身也會被改寫,人類終將需要重新定義自己的座標。

Related

相關文章

曝DeepSeek啟動IPO,估值漲到4800億

賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機構庫投資機構職位推介投資人認證投資人服務尋求報道36氪Pro創投氪堂企業入駐創業者服務創投平臺AI測評網 首頁快訊資訊推薦財經AI自助報道廣東最新創投汽車科技專精特新直播視頻專題活動搜索尋求報道我要入駐城市合作曝DeepSeek啟動IPO,估值漲到4800億投行圈子·2026年07月15日 18:38憑什麼敢IPO? 今天彭博社的一條新聞,讓AI圈和投資圈炸了! 彭博社報道,國內頭部AI大模型公司DeepSeek(深度求索)已正式啟動IPO籌備工作,計劃登陸中國內地資本市場,最快將於2026年底提交上市申請,目標2027年正式掛牌交易。 緊隨其後,華爾街日報等多家海外媒體跟進證實:DeepSeek正密集接觸會計師事務所與投行顧問,力爭在今年12月底前完成財務報告整理,這是A股IPO申報的核心前置步驟。上市地點初步鎖定上海。 同時,《金融時報》爆料,DeepSeek正開啟第二輪融資,投前估值710億美元(約4800億人民幣),較首輪融資後的520億美元上漲37%。 截至今日下午17點,DeepSeek(深度求索)並未對上述傳聞做成任何回應。最終以官方披露為準。 但值得關注的是,距離首輪融資結束,僅僅過去六週。 一家成立剛滿三年的公司,從“堅決不融資”到估值4800億衝刺IPO,這速度放在全球科技史上都罕見。 但更值得追問的是:DeepSeek憑什麼?它的IPO對中國AI行業意味著什麼? 憑什麼敢IPO? 很多人對DeepS

剛剛

造車這層窗戶紙,字節不會捅

賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機構庫投資機構職位推介投資人認證投資人服務尋求報道36氪Pro創投氪堂企業入駐創業者服務創投平臺AI測評網 首頁快訊資訊推薦財經AI自助報道廣東最新創投汽車科技專精特新直播視頻專題活動搜索尋求報道我要入駐城市合作造車這層窗戶紙,字節不會捅字母榜·2026年07月15日 18:33字節做自動駕駛了,但張一鳴真正想要的不是車 字節要下場做自動駕駛了? 據 36 氪報道,字節跳動正探索進入自動駕駛領域。項目由Seed團隊旗下週暢的世界模型團隊牽頭,走的是當下最主流的技術路線。 對此消息,字節表示 , “字節在AI大模型前沿探索領域,包括物理AI領域,有很多早期研究和探索,但並沒有做智能駕駛業務的計劃”。 事實上無論是車圈還是AI圈,大家的共識是“自動駕駛就是世界模型最先商業落地的場景”。字節有人才、有模型、有算力,所以如果字節真的選擇做自動駕駛,也是完全順理成章。 但有意思的是,字節做自動駕駛的消息一齣,“張一鳴要造車”的討論又熱了起來。 這事兒放在十年前想都不敢想,造車是什麼級別的生意?重資產、長鏈條、幾百億砸進去都聽不見響。 但是到了現如今,造車已經是一個模塊化的事情了。從電池到底盤,只要是你能想到,市面上就有對應的供應商。反倒是車裡面的智能座艙和自動駕駛,成了最稀缺、最賺錢的部分。 這也就意味著,從自動駕駛到整車,中間只隔了一層窗戶紙。 只要張一鳴想,字節隨時都可以造車,可張一鳴會捅破這層紙嗎? 01 在今天,造車這件事已

剛剛
全天候科技生成式AI

小米開源具身生成大模型U0,要給機器人批量“造數據”

小米開源具身生成大模型U0,要給機器人批量“造數據” 鄭敏芳 發表於 2026年07月15日 10:07 摘要:小米將大模型能力進一步推向機器人領域。 7月15日,小米正式發佈並開源具身生成模型Xiaomi-Ro... 小米將大模型能力進一步推向機器人領域。 7月15日,小米正式發佈並開源具身生成模型Xiaomi-Robotics-U0(以下簡稱“U0”)。該模型擁有380億參數,將具身世界建模與通用圖像生成能力統一在一套多模態自迴歸架構中,主要用於生成、遷移和擴增機器人訓練數據。 U0的目標是為機器人“造數據”。 機器人要學會抓取、搬運、整理等動作,需要在大量不同場景中反覆訓練。但現實世界的數據採集成本高、週期長,危險、極端以及低頻場景也難以充分覆蓋。 U0試圖把這一過程變成可批量運行的數據生產線。已有的機器人真機數據可以直接更換物體、光照、材質和背景,而不必重新搭建場景、部署設備並重復採集;現實中難以獲取的長尾場景,也可以通過模型直接生成。 U0還提出FlashAR+高速推理加速方案,通過對角並行解碼與緩存調度技術,將一張1024×1024分辨率的高清訓練圖片生成時間,從450.77秒壓縮至5.44秒,效率提升82.9倍。 這意味著,機器人公司可以在較短時間內,批量生成覆蓋不同背景、光照、物體等訓練數據。 U0將具身場景生成、具身軌跡遷移、機器人交互視頻生成,以及通用文生圖和圖像編輯四類任務統一在一個模型中,基本貫通了“生成場景—遷移軌跡—擴展環境—生成交互過程”的數據生產鏈路。 事實上,類似的開源嘗試已經開始在具身智能行業出現。2025年3月,群核科技開源空間理解模型SpatialLM。該模型可以將視頻或點雲轉化為包含牆體、門窗、傢俱及空間關係的結構化3D場景,企業可以針對自己的場景進行微調,用於提升機器人對物理空間的理解能力。 當前,具身智能行業仍面臨訓練數據不足、

剛剛
IT之家生成式AI

消息稱交友應用 Soul 將推出首款便攜式 AI 智能硬件,有望於 WAIC 2026 亮相

交友平台 Soul 宣布即將推出首款便攜式 AI 智能硬件,鎖定情緒陪伴應用場景,預計在 2026 年 7 月 17 日至 20 日舉行的世界人工智能大會暨人工智能全球治理高級別會議(WAIC 2026)期間首次公開亮相。這是 Soul 從純軟體社交服務跨入硬體領域的重要一步,也顯示其持續深化人工智慧技術的布局。 這款尚未正式命名的便攜式裝置,將內建 Soul 自研的大型語言模型 SoulX,並整合語音互動、情感表達與數位生命等核心能力。

剛剛
鈦媒體生成式AI

人人想造Codex,但Agent正在接管的不只是你的代碼 | ToB產業觀察

AI編程工具正從Copilot輔助升級到Agent自主模式,並開始進入企業工作流與辦公場景,成為「數字員工」。Cursor、Anthropic、OpenAI等業者紛紛推出面向非開發者與辦公任務的Agent產品,但企業在部署時仍面臨高昂Token成本、組織慣性與隱性知識等挑戰。效率提升並非終點,Agent必須為企業帶來實際業務價值,否則可能導致生產過剩與裁員風險。

剛剛

中文Claude最不哄人,日韓泰全被寵上天,Anthropic親手撕碎AI人設

Anthropic 研究發現,Claude 模型會因用戶使用的語言不同而展現截然不同的行為模式,例如使用印地語時更溫暖順從,使用英語、俄語時則更嚴謹挑剔。中文 Claude 屬於混合型,既會駁斥錯誤前提,也會不帶評判地安慰用戶,而日語、韓語、泰語版本則明顯更傾向於哄人。語言造成的個性差異甚至比不同模型版本(如 Sonnet 與 Opus)之間的差異更顯著。

剛剛