無需顯卡也能跑! 40 核老舊服務器硬剛 2.8 萬億參數大模型,傲騰內存成破局利器

2026年11月13日 08:00
站內 AI 整理稿

AI資訊AI新閒資訊正文無需顯卡也能跑!40 核老舊服務器硬剛 2.8 萬億參數大模型,傲騰內存成破局利器發布於AI新閒資訊時間 :Nov 13, 2026閱讀 :1分鐘在人工智能參數規模不斷膨脹的今天,動輒數萬億參數的巨型大模型往往需要依靠昂貴的高端顯卡集群才能驅動。然而,近日有玩家在社區分享了一次極具極客精神的極限測試:他僅憑一臺沒有插顯卡、搭載40核處理器的老舊服務器,竟然成功讓月之暗面的2.8萬億參數大模型 Kimi K3運行了起來。挑戰硬件極限:巨型大模型遇上老舊服務器作為一款體量龐大的混合專家模型,Kimi K3的總參數量達到了2.

8萬億,每個 token 僅激活約1040億參數,官方標稱的上下文更是高達104萬 token。面對如此巨大的數據體量,哪怕將其壓縮至極限的1bit 量化,也需要數百 GB 的內存才能裝得下,這顯然超出了普通家用主板的承載極限。為了突破這一硬件瓶頸,該玩家劍走偏鋒,使用了一顆40核的第三代至強可擴展處理器,並搭配了英偉達已經停產的傲騰持久內存200系列,實現了單條最高512GB 的超大容量支持。巧妙軟件調配:盤活停產傲騰內存作為主存在具體的軟硬件協同方案上,該玩家藉助 llama.

cpp 軟件,將傲騰持久內存設置為 App Direct 模式,讓其直接作為內存供程序讀寫,而不是將其作為硬盤緩存由系統自行調度。不過,這種非主流的平民化方案也必須付出運行速度上的代價:生成效率: 在1bit 量化下,實測生成速度僅為每秒0.85個 token;若關掉直接訪問(DAX)模式,速度最高也僅能達到每秒1.5個 token。實際耗時: 當切換至3bit 量化時,速度約為每秒0.75個 token。這意味著讓它寫幾百字需要等待好幾分鐘,而如果要輸出5萬個 token 則長達18.5小時。溫控挑戰: 傲騰硬件本身的功耗和發熱也不容忽視。

根據英偉達的數據表,該代產品單條功耗上限為18瓦,當介質溫度達到83攝氏度時便會開始降頻,一旦飆升至85攝氏度則會觸發保護性關機。值得一提的是,英偉達早在2022年第二季度便啟動了傲騰內存業務的收縮,當季度計入了5.59億美元的庫存減值,這也意味著該產品線已經沒有後續的下一代產品,這次硬核運行更像是一次面向極限邊緣的極客致敬與可行性驗證。相關推薦月之暗面徐天天亮相財新峰會:AI 能力遠未觸及天花板,三維曲線正驅動智能持續加速11月12日,第十七屆財新峰會上,月之暗面金融行業與生態負責人徐天天表示,當前AI能力邊界與智能上限遠未達到極限,行業仍處加速進化快車道。

他提出三條疊加增長曲線是驅動大模型持續進化的底層邏輯,並深入分析人工智能進化動力,引發對大模型能力邊界的關注。Nov 13, 2026141.4k月之暗面放大招!Kimi Hosted Agents 正式發佈11月5日,月之暗面(Moonshot AI)正式推出Kimi Hosted Agents託管智能體服務,將支撐智能體高效運行的底層Harness運行框架作為雲端服務開放給企業和開發者,省去團隊自行搭建與維護複雜運行框架的流程。其核心亮點是告別繁瑣運維,無縫支撐長任務與多智能體協作,降低AI應用開發門檻。Nov 6, 2026409.5k月之暗面開放 2.8 萬億參數 Kimi K3.

1 Pro 權重,強勢登頂 Agent Arena 開源榜11月5日,月之暗面兌現10月24日承諾,在Hugging Face全面開放Kimi K3.1Pro模型權重。該模型在Arena運營的Agent Arena中奪得開放權重模型第一,全部參評模型第13,並在工作、編程、聊天三大核心類別穩居開放模型首位。評測基於真實長週期會話,標準嚴苛。Nov 5, 2026281.1k英偉達發佈語音轉錄大模型Nemotron 3.5 Transcribe,8 人同時搶話也能精準識別英偉達正式開源全新語音轉錄大模型Nemotron3.5Transcribe。

該模型面向專業語音處理,在多語言轉錄準確率、長音頻處理和多說話人分離等核心指標上行業領先。其採用混合專家(MoE)架構,總參數量約340億,每次前向傳播激活部分參數,以提升效率。整體看,它為專業語音轉錄提供了新的開源選擇。Oct 30, 2026351.3k月之暗面宣佈Kimi正式接入谷歌Gmail、雲端硬盤與日曆10月29日,月之暗面在海外宣佈,AI助手Kimi全面接入谷歌Gmail、Google Drive和Google Calendar三大辦公服務。用戶只需在Plugins頁面簡單設置即可啟用。

官方稱,此次集成延伸了Kimi應用場景,可快速總結Gmail郵件對話、精準查找所需信息,並提升郵件、雲盤與日曆相關任務處理效率。Oct 30, 2026295.1k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026

Related

相關文章

AI日報:黃仁勳卸任英偉達總裁職位;星火語音大模型SparkAudio 1.0正式上線API服務;Google推出Gemini4Hydrogen

AI資訊最新AI日報正文AI日報:黃仁勳卸任英偉達總裁職位;星火語音大模型SparkAudio 1.0正式上線API服務;Google推出Gemini4Hydrogen發布於最新AI日報時間 :Nov 13, 2026閱讀 :1分鐘歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南,每天我們為你呈現AI領域的熱點內容,聚焦開發者,助你洞悉技術趨勢、瞭解創新AI產品應用。新鮮AI產品點擊瞭解:https://app.aibase.com/zh1、英偉達創始人黃仁勳卸任總裁職位本文揭示黃仁勳卸任背後複雜的地緣政治與個人道德雙重危機,凸顯AI算力已成為大國博弈焦點。英偉達權力更迭不僅是企業事件,更折射出科技巨頭在技術霸權與合規風險間的艱難平衡。【AiBase提要:】🔚 黃仁勳卸任總裁、CEO及董事,結束33年掌門。🌍 地緣政治與情報指控是下臺關鍵。💔 私德風波與輿論壓力加速離職。2、關停五年,蝦米借 AI 還魂:阿里 30 元推出快樂蝦米阿里以“快樂蝦米”復活蝦米品牌,並非簡單情懷移植,而是以端到端整麴生成切入AI音樂賽道,降低創作門檻。30元150首的定價清晰瞄準大眾用戶,但音質、版權與模型可持續性仍待驗證。【AiBase提要:】🎼 端到端整麴生成,覆蓋作詞、作曲、編曲與人聲演唱💰 國內30元月費可生成150首歌,單首成本約0.2元🔁 音樂配方與做同款玩法,支持智能歌詞和純音樂輸出3、Google推出Gemini4Hydrogen,全球Search迎來最大模型升級該升級標誌著谷歌搜索從信息檢索向自主代理執行的關鍵演進。Hydrogen的高速多檔推理與工具調用優化,理論上能提升複雜查詢、拼寫糾錯和多語言體驗,但實際延遲、成本和可控性仍待驗證。【AiBase提要:】🚀 谷歌搜索引入 Hydrogen,完成最大規模模型升級⚡ 面向高速代理式工作流,速度比前代快

剛剛

Claude 輔助完成 19 萬行代碼,成功對三元哥德巴赫猜想進行形式化證明

AI資訊AI新閒資訊正文Claude 輔助完成 19 萬行代碼,成功對三元哥德巴赫猜想進行形式化證明發布於AI新閒資訊時間 :Nov 13, 2026閱讀 :1分鐘人工智能在基礎科學研究領域的應用正在創造歷史。近日,獨立開發者 Charlie Reams 藉助Claude Code成功完成了對三元哥德巴赫猜想的形式化證明。此次突破累計產出了高達19.4萬行且零 sorry 的Lean4代碼,所有的數學推理均通過了機器的嚴格驗證。機器火眼金睛:自主揪出並修補13年前的11處漏洞在這項艱鉅的證明過程中,人工智能展現出了超越人類傳統審稿的極致嚴謹性。AI 在運行和推導中自主發現了數學家 Harald Helfgott 於2013年發表的原版證明中的11處關鍵問題。這些被成功揪出的漏洞涵蓋了常數寫錯、不等式不成立、引用數據偏差以及主弧尺度混淆等多個維度,並且 AI 均逐一完成了修補。在此基礎之上,研究人員進一步將該證明所依賴的外部額外假設從最初的5項大幅精簡至僅剩2項已有的公開數值驗證結果,從而極大地推進了該證明嚴謹性閉環的構建。推動範式轉變:數學界的“證明完成”正邁向機器可驗證時代這一里程碑式的事件不僅攻克了數學史上的重要難題,也在更深層次上推動了整個數學界對“證明完成”這一概念的判定標準發生根本性轉變——從傳統的同行評議逐步向完全依靠機器可驗證的形式化方向大步邁進。相關推薦AI 幫用戶成功“越獄”跑步機:Claude 輕鬆幹掉 iFIT 訂閱牆,大屏幕秒變自由流媒體海外網友在Reddit分享,借AI編程工具Claude Code對NordicTrack Commercial2250跑步機“越獄”,繞過iFIT強制訂閱限制,把10英寸封閉大屏改造成可自由使用的流媒體娛樂界面。這臺跑步機原為女友購買,改造耗時約一天半,解決訂閱牆煩惱。Nov 5, 2026230.4kClaude

1 分鐘前6300

比高端型號還猛卻更便宜,Google 用"Gemini 4 Hydrogen"上演反向內卷

AI資訊AI新閒資訊正文比高端型號還猛卻更便宜,Google 用"Gemini 4 Hydrogen"上演反向內卷發布於AI新閒資訊時間 :Nov 13, 2026閱讀 :1分鐘Google 剛推出 Gemini4Hydrogen(氫),一款主打速度與執行效率的新模型,結果一登場就尷尬了自家的 Argon:第三方智能指數榜上,Hydrogen 拿下51分、Xhigh 檔衝到54分,壓過定位更高的 Argon 的50分;默認檔速度達上代 Flash 的2.5倍、胡編亂造減超80%,API 價格卻比 Argon 更低。編排器替你自動換模型Google 沒讓兩塊招牌各自為戰。新推的 Antigravity Orchestrator 能在同一任務裡按進展自動切換 Carbon 與 Hydrogen:Carbon 先拆任務、定計劃,再交給 Hydrogen 改代碼、跑測試,遇坎再交回 Carbon,全程不用手動切。內部測試顯示,它逼近單獨用 Carbon 的成功率,卻省下24% 額度、提速19%,目前先向 AI Ultra 用戶開放。速度狂歡也有冷水:有人指出答案若錯,重跑代價可能高過一次慢而準的回答。開發者 @SPAC89用 Hydrogen 兩小時做出 Three.js 項目、只耗 Pro 訂閱5% 周額度,直呼近乎無限制;而 @mattyapro 的吐槽最實在:每天真在用的模型,比登頂排行榜的模型更重要。相關推薦谷歌重磅發佈 Gemini 4 Hydrogen:主打高速編程與智能體任務,性能實現跨越式升級人工智能賽道再迎核心模型更新。谷歌當地時間週四正式發佈新一代大模型Gemini4Hydrogen,面向開發者與日常用戶,在運行速度、編程能力及智能體任務處理上實現顯著飛躍。相較Gemini3.8Flash,該模型整體性能全面進化,運行速度提升2.5倍,編程基準測試大幅躍升,成為

1 分鐘前6500

OpenAI機器人業務轉向"模型內整合",具身智能納入通用基礎模型框架

內部判斷認為,機器人只是通用模型的一類垂類任務,所需智能能力應在通用基礎模型框架下統一解決。截至發稿,OpenAI官方尚未確認並披露相關細節。這並非OpenAI首次調整機器人路線。2019年,其機械手解魔方項目Dactyl曾引發廣泛關注;2020年10月,公司內部解散機器人團隊,2021年聯合創始人Wojciech Zaremba對外解釋稱,物理交互數據難以規模化,資源轉向大模型。

1 小時前6600

Anthropic 募資 904 億劍指史上最大 IPO,認購已超六倍

招股文件顯示,公司連同聯合創始人計劃借 IPO 最多募得 644 億美元,再疊加一筆 260 億美元的非公開配售,雙管齊下為登陸公開市場備足彈藥。在 AI 投資熱潮退潮與否的爭論中,真金白銀的認購給出了最直白的投票。兩項相加,反超 SpaceX 登頂把 IPO 與私募配售合計,規模最高可達 904 億美元,一舉超過 SpaceX 的上市交易,坐上史上最大上市交易的寶座。

1 小時前

浙大與聯想團隊聯合提出 EM²Mem:打造多模態智能體的事件中心記憶方案

近日,浙江大學與聯想團隊合作提出了一項全新的以事件為中心的多模態長期記憶方案——EM²Mem,相關研究成果已在 EMNLP2026正式亮相。顛覆傳統模式:從“先檢索後對齊”到“先對齊後檢索”長期以來,現有的多模態智能體在處理長期記憶時,往往採用的是相對簡化的存儲與檢索方式。

1 小時前