DeepSeek-V4-PRO AI 模型測試:英偉達 Vera Rubin 每兆瓦吞吐量達 GB300 的 30 倍

作者:小泵 責編:小泵 評論: 8 月 24 日消息,英偉達昨日使用 SemiAnalysis AgentX 工作負載,以 DeepSeek-v4-PRO 1.6T 模型評估測試,顯示 Vera Rubin 每兆瓦吞吐量達到 Blackwell 的 30 倍。每兆瓦吞吐量(Tokens per Megawatt,簡稱 tokens / MW)是衡量 AI 數據中心在固定電力額度下能產出多少 AI Token 的核心能效指標。
援引博文介紹,SemiAnalysis AgentX 通過 4 項指標,重點評估智能體編程推理工作負載:端到端歸一化交互性按請求提交至最終 Token 到達的完整時間計算,反映包含首個 Token 等待時間在內的用戶可見輸出效率;標準交互性只統計首個 Token 至最後一個 Token 之間的生成階段。端到端延遲統計單次請求從提交到最終輸出 Token 到達的總時長首個 Token 延遲(TTFT)則統計提交請求到首個輸出 Token 到達的時間。在 DeepSeek-v4-PRO 1.
6T 工作負載中,採用 GB300 NVL72 的 Grace Blackwell 服務器,每兆瓦吞吐量達到 H200 NVL8 Hopper 方案的 15 倍。Blackwell 每百萬 Token 成本約為上一代的 1/10,運營方可以在相同電力和基礎設施預算下支持更多智能體,或以更低運營成本維持相同智能體容量。而 Vera Rubin 進一步提升該優勢,在 DeepSeek V4 Pro 模型上,Vera Rubin NVL72 的每兆瓦吞吐量約為 GB300 NVL72 的 30 倍。
Vera Rubin NVL72 的每百萬 Token 成本是 GB300 NVL72 的 35 分之一,能夠持續、大規模地運行智能體,滿足客戶各種工作負載的需求。
投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:英偉達,Vera Rubin NVL72,智能體AI,AI能效200 億美元收購成果落地:英偉達 Groq 3 LPX 機架全面量產,今年上線馬斯克:SpaceX 計劃明年第四季度發射搭載英偉達芯片的 AI 衛星獲英偉達投資,美國初創 Starcloud 研發 GPU 衛星欲建太空數據中心英偉達砸 60 億美元投資 Poolside,意圖打造中國開源 AI 競爭對手黃仁勳兩次親筆簽名,英偉達 RTX Pro 6000 Blackwell 顯卡拍出 5.7 萬美元《使命召喚:現代戰爭 4》測試版率先搭載英偉達 DLSS 4.
5 光線重建技術
Related
相關文章
演員吳越遭 AI 換臉帶貨,微信視頻號:涉事賬號永久封禁、內容清空
她曬出的錄屏顯示,該賬號發佈了一段"吳越"出鏡的 AI 視頻:開頭便是"吳越"在帶貨,隨後拼接她公開活動的畫面,並借"吳越"的口吻稱"這個產品不是他們找我,是我找他們的……效果是真的非常直觀"。更離譜的是,視頻末尾還出現了疑似鄧亞萍的帶貨片段,一人冒用牽連多人。
Mistral AI Releases Timestral: A 209M Forecasting Model Family That Outperforms Google’s TimesFM-3
Mistral AI has released Timestral, its first family of time series foundation models. Timestral is a set of 4 zero-shot forecasting models from Mistral AI, sized from 5M to 209M parameters.
Google 開源 Harness²:遞迴代理程式框架,無需新模型也能提升效能
Google Cloud AI Research 開源了 Harness²,這是一個遞迴代理程式框架,透過改良凍結模型周圍的程式碼與檔案來增強效能。對開發者而言,重點很簡單:你的代理程式無需更強大的模型也能進步。重點摘要:規模為框架而非模型,訓練參數為0,包含8個可編輯的框架元件,版本0.1.0。執行環境為Linux、Python 3.12或3.13搭配uv,模型呼叫則透過Vertex AI。GPU需求未公開。效能方面:一次改良步驟即可在3個基準測試中,提升所有4個模型與框架組合的表現。最佳成果:GLM-5搭配OpenCode在WorkBuddy-Bench上從64.2提升至75.7(+11.5點);最差表現:GLM-5搭配Codex在JobBench上僅提升1.2點(23.6至24.8)。什麼是Harness²?它是Google研究推出的即插即用框架。
如何利用NVIDIA結構化資料模型進行零訓練表格預測
In this tutorial, we implement Structured Data Models, NVIDIA’s new library that puts several pretrained foundation models for tables behind one PyTorch interface, and use it to make predictions without training.
認識 Kyutai REKI:2.4B VLA 模型為機器人操控帶來高效記憶
Kyutai 與 Inria 及 École des Ponts 合作,推出了 REKI——一個用於機器人操控的 2.4B 參數視覺-語言-動作模型(VLA)。該模型僅使用公開數據進行預訓練,並配備了輕量級的近期記憶功能。在三個分佈外基準測試中,僅有規模約為其兩倍的模型能超越它。所有模型權重已於今日在 Hugging Face 上公開。核心資訊:規模:2.4B 參數(2.2B Qwen3.5-2B VLM + 0.2B 流匹配動作專家)。記憶涵蓋最近 3 幀,間隔 1 秒。運行環境:在 1 張 NVIDIA H100 上進行基準測試。從兩個 256×256 攝像頭輸入,編譯後每個動作區塊耗時 21.8 毫秒。權重以 BF16 格式提供,暫無量化版本。性能:在 LIBERO-Plus 和 RoboTwin Clean2Rand 基準測試中,為公開數據預訓練的 VLA 模型中最優;在 LIBERO-Plus 上達到 90.4% 的最高分。
DeepSeek 發布 V4.1-Flash-1017,DeepSWE 得分 77.0,並開放搜尋 API
DeepSeek 剛發布 DeepSeek-V4.1-Flash-1017,這是其 V4.1-Flash 模型的新檢查點,現已在 DeepSeek 網站、應用程式及 API 上線。DeepSeek 宣稱該版本在性能、任務完成速度與輸出簡潔度上均優於 9 月發布的 V4.1-Flash,並稱之為性能與成本的帕累託改進。同時,DeepSeek 也向所有開發者開放了搜尋與擷取 API。對代理建構者而言,這意味著更便宜的編碼模型加上單一 API 金鑰即可使用的第一方網路層。重點摘要:骨架參數 552B,另加 196B 的 Engram 參數;預填充階段每 token 啟用 8B 參數,解碼階段啟用 16B 參數;上下文長度達 1M tokens,最大輸出 384K tokens。運行於 DeepSeek API 的 deepseek-flash 模型。9 月版的 V4.1-Flash 權重(763B 參數,FP8)採 MIT 授權。