Edge0 重磅開源 145B 端側模型，內存狂省 60% 還能滿血寫代碼

AI資訊AI新閒資訊正文Edge0 重磅開源 145B 端側模型，內存狂省 60% 還能滿血寫代碼發布於AI新閒資訊時間 :Nov 13, 2026閱讀 :2分鐘人工智能在端側部署領域迎來了里程碑式的突破。開源項目 Edge0近日正式發佈並開源了 Edge0-145B 與 Edge0-120B 模型，同時帶來了一套統一的推理框架與部署工具。作為全球首個宣稱可在個人電腦本地流暢運行的1450億參數開源模型，Edge0-145B 成功將足以比肩雲端前沿大模型的編程、推理與智能體能力，直接帶到了用戶的本地筆記本上。突破硬件極限:它是如何在筆記本上運行145B 模型的?

長期以來，端側 AI 一直在模型能力與硬件可運行性之間艱難平衡:大模型參數多、對內存和帶寬要求極高;小模型雖然不佔地方，卻難以勝任複雜的專業任務。把繁重工作交給雲端，又不可避免地面臨持續的 API 費用、數據隱私限制以及對網絡的強依賴。為了解決這一行業痛點，Edge0團隊從底層架構、訓練、加載到調度四個層面進行了全面創新:稀疏專家架構（MoE）: 模型在海量稀疏專家之間巧妙共享大矩陣，在保持專家總數不變的前提下大幅減少了需要存儲和搬運的權重。在145B 的總參數中，每次推理計算僅有約10B 參與。

從零開始的端側協同訓練: 該模型在訓練初期就將端側部署的硬性約束融入設計，避免了傳統雲端模型事後壓縮或剪枝帶來的性能損失。三層存儲智能流水線: 通過巧妙的設計，讓 GPU 內存、系統內存和固態硬盤（SSD）訪問形成高效流水線。高頻的“熱專家”常駐 GPU 內存，約40GB 的專家庫放在系統內存中按需調入，約48GB 的詞表數據則存放在 SSD 上實時讀取，避免了串行等待。CPU 與 GPU 高效協同: GPU 負責計算已緩存的專家，CPU 則並行處理其餘工作，並藉助投機解碼技術將權重讀取成本分攤到更多輸出上。

通過上述創新，Edge0-145B 在兼容的個人電腦（如搭載蘋果 M 系列芯片的 MacBook Pro，或者配備 RTX4090/5090等的 Windows 平臺）上實現了令人矚目的實測表現:峰值內存佔用僅為29GB，提示詞預處理速度超過1，100tokens/s，解碼生成速度超過80tokens/s，典型功耗控制在120W 左右，支持128K 至256K 的超長上下文。編程與推理能力對標雲端，從容駕馭複雜本地工作流在核心能力方面，Edge0-145B 在多項國際權威基準測試中展現出了極強的競爭力。其六項基準測試平均得分達到72.

8，與標準4-bit 部署下動輒需要70GB 至87GB 內存的主流雲端或大體積基線模型相比，其實測內存佔用縮減了約40% 至60%，能力卻處於同一梯隊:編程與智能體: 在 DeepSWE1.1上得分64.6，在 Terminal-Bench2.1上得分86.52，在指令遵循 IFBench 上得分80.6。推理與知識: 在 GPQA-Diamond 上的得分高達90.4，展現出紮實的邏輯與知識底蘊。憑藉出色的代碼生成、工具調用、自我調試和視覺檢查能力，Edge0-145B 能夠獨立支撐複雜的本地端工作流。

在官方展示的實際應用場景中，它不僅能用於日常聊天，更能在本地一小時內完成特斯拉 Roadster 講解視頻的全套製作、在 Blender 中從零搭建曼哈頓3D 城市場景、開發可玩的中世紀 RPG 遊戲、編寫控制真實無人機穿過障礙的飛行代碼，甚至在 KiCad 中完成從 PCB 電路板佈局到 Unreal Engine 裝配動畫的渲染。整個過程完全在本地離線運行，不僅省去了可觀的雲端 API 費用，也讓核心敏感數據牢牢掌握在用戶手中。

構建端側開源全家桶，推動 AI 走向“端側優先”除了重磅的145B 模型外，Edge0過去一年共發佈了四大系列、總計200個不同規模的模型，形成了覆蓋語音、文本、視覺與記憶的完整矩陣:Edge0系列: 覆蓋145B、120B（面向筆記本），以及35B、8B(面向手機)，全面賦能 vibe coding 與智能體任務。Audio8系列: 專注聽與說，包含從0.1B 到3B 的多語種語音識別、合成及端到端交互模型。Decision0系列:0.6B 與3B 的多模態快速決策模型，將決策延遲壓制在40毫秒級別。Embedding0系列:0.

6B 多模態嵌入模型，全面支持文本、語音、圖像和視頻的本地長期記憶與 RAG 檢索。目前，Edge0-145B 與 Edge0-120B 的完整模型權重已在 Hugging Face 正式開源，統一推理框架與一鍵部署指南也已同步登陸 GitHub，同時官方還推出了免環境配置的 Edge0App。隨著大模型在端側硬件上的效率不斷突破，AI 的應用範式正從過去的“雲端優先”穩步邁向“端側優先，雲端輔助”的全新時代。相關推薦拍一拍即知底價:國行蘋果AI開啟Beta測試並接入得物App11月4日晚，蘋果AI國行版啟動Beta測試，視覺智能等核心功能同步開放。

得物App作為首批接入應用，與iPhone系統深度打通，推動端側AI在垂直電商場景實用化落地。用戶用支持該功能的iPhone相機喚起視覺智能，拍攝現實商品即可直連得物，系統自動識別並提供相關信息。Nov 5, 2026225.8k全球第 3 家：代碼顯示 vivo 手機將接入安卓 AI 詐騙檢測Android Authority披露，vivo將成為繼谷歌、三星後第三家支持谷歌“詐騙檢測”功能的廠商。該功能為端側AI安全特性，通話時後臺運行，識別要求轉賬、索要禮品卡或敏感信息等詐騙話術，或僅限國際版。消息源自拆解谷歌電話應用發現vivo相關代碼。Aug 18, 2026225.

7k面壁智能CTO曾國洋：從“打字機”到大模型，端側AI的進化與突圍面壁智能另闢蹊徑，專注端側AI，將大模型壓縮進手機、汽車等終端。28歲CTO曾國洋早年主導訓練中國首個大語言模型CPM-1，如今致力推動輕量化智能落地移動設備。Jul 14, 2026253.9k​27B大模型塞進iPhone！蘋果看中AI壓縮黑科技：體積縮到十四分之一，速度還快 8 倍科技媒體The Information報道，蘋果正接洽AI初創公司PrismML，評估在iPhone上直接運行更大規模AI模型的可行性。PrismML核心突破為原生1-bit模型壓縮技術，可將模型體積壓縮至約1/14，內存佔用降低超90%。

此舉有望實現手機端側大模型運行，實現端側AI突破。Jul 10, 2026295.1k 聯動全屋五大場景!英特爾攜手國內科技巨頭，讓“AI大腦”住進千家萬戶第四屆鏈博會上，英特爾攜手國內科技企業發佈“AI家庭大腦”解決方案，基於第三代酷睿Ultra處理器，獨創本地化高效運行AI大腦，開創智能體家庭新生態，標誌端側AI在智能家居領域實現重要突破。Jun 22, 2026223.0k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026