PrismML 再出手:Bonsai 2 27B 以 1/9 內存佔用保留 Qwen3.8 27B 98.2% 性能

作者:溯波(實習) 責編:溯波 評論: 9 月 18 日消息,人工智能實驗室 PrismML 今年早些時候推出了微調模型 Bonsai 27B,以顯著更低的內存佔用實現了 Qwen3.6 27B 基礎模型 95% 的性能。而在當地時間 27 日,PrismML 宣佈推出三值量化版本的 Bonsai 2 27B。該模型將基礎模型升級至 Qwen3.8 27B,推理、編程、視覺、長程智能體性能全面提升,以不到 1/9 的內存佔用在綜合基準測試中得到了基礎模型 98.2% 的分數,整體表現甚至好於 Qwen3.6 27B。
PrismML 表示,Bonsai 2 27B 足以在本地承擔編程智能體循環、計算機使用工作流、私有文檔解析、多模態調試、混合編排等“真正的知識工作”,僅在需要時才調用雲端 API。Bonsai 2 27B 三值量化採用 FP16 分組縮放,每個權重的有效比特為 1.76,模型總大小為 5.9GB,支持 262K 上下文窗口。其在 NVIDIA GeForce RTX 5090 上擁有 143TPS 的詞元吞吐量,在 Apple Silicon M5 Max 上則可達 46.8TPS。這款模型在 GeForce RTX 4090 上的能效為 0.
714mWh / Token,比全精度 8B 模型低 40%。Bonsai 2 27B 可通過 CUDA 在 NVIDIA GPU 上運行,也可通過 MLX 在 Apple 設備上運行;其以 Apache 2.0 許可證開放權重。投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:PrismML,AI模型美國政府也部署阿里千問:《聯邦公報》網站被發現使用中國 AI 模型提供搜索服務安全顧慮成普及關鍵:外媒調查顯示超七成受訪者不願令 OpenClaw 等 AI 工具完全控制自己的電腦小米直播訓練 MiMo-V2.
6 模型,羅福莉稱沉寂半年鑽研一件事OpenAI 首次公開六起模型異常案例,涉及瞞報錯誤、編造數據及未經授權上傳文件階躍發佈 StepAudio 3 系列語音大模型,拿下多個全球第一OpenAI 聯合創始人布羅克曼:僅前沿 AI 大模型研發需放緩
Related
相關文章
曝OpenAI拿下超6.7億年單!打“骨折”、送額度、配工程師,就為了搶Anthropic客戶
編譯 | 孫小雯 編輯 | 程茜 OpenAI和Anthropic為了搶用戶,最近又槓上了!10月30日,OpenAI剛將部分Pro套餐的ChatGPT Work和Codex額度翻倍;次日,Anthropic取消了已驗證Ultra賬戶的5小時用量限制,周限額保留。
英特爾與騰訊發佈基於至強6+的雲實例,曬智能體AI基礎設施全家桶
作者 | ZeR0 編輯 | 漠影 11月3日報道,近日,在2026騰訊全球數字生態大會上,英特爾與騰訊雲發佈基於英特爾至強6+處理器的騰訊雲新一代雲實例,並全面展示英特爾的芯片產品與雲端實踐。 全新至強6+處理器擁有最高288顆能效核,單顆處理器最高可支持超過1000個智能體的穩定部署,這也為騰訊雲服務器提供更高併發、更低時延、更優能效的雲端算力服務。
智元榮獲2026世界互聯網大會傑出貢獻獎
11月3日,2026年世界互聯網大會烏鎮峰會在浙江烏鎮隆重開幕,國務院總理李強出席開幕式並發表主旨演講。開幕式上,智元憑藉在具身智能領域的系統性技術突破與產業化實踐,獲頒世界互聯網大會傑出貢獻獎。智元合夥人、高級副總裁朱潔在領獎時表示:人工智能的終局,不在於屏幕與雲端,而紮根於工廠一線和尋常煙火。具身智能賽道的競爭,早已跳出單點技術的競速,轉向軟硬協同、工程化落地、產業組織與治理體系的綜合比拼。智元期待與各界同心同行,堅守務實,躬身落地。
電動車退燒、AI 儲能燒起來:LG 新能源把產能挪向數據中心
11 月 3 日,首席財務官李昌植在財報電話會上給出時間表:今年底軟包儲能系統(ESS)產能將超 50 吉瓦時,明年進一步拉到 70 GWh 以上。在他看來,電動車增速放緩之際,AI 數據中心的大規模新建為電池廠撕開了新口子——第三季度 ESS 在手訂單已達 160 GWh,公司正與電力企業、超大型數據中心運營商談新項目,今年 9 月還作為儲能供應商擠進了英偉達的 DSX Ready 計劃。
最高288核的至強6+,為了Agent高密度部署還下了哪些「雲功夫」?
作者 | 陳悅琳編輯 | 包永剛 一個智能體能順利完成任務,不代表成百上千個智能體就能同時高效運行。 對於承載大量智能體任務的雲服務器而言,除了提升計算速度,如何在任務集中到來時迅速準備好執行環境、怎樣減少暫時閒置的任務對內存資源的佔用,也成為亟待解決的問題。 對此,在一年一度的騰訊全球數字生態大會上,英特爾與騰訊雲聯合發佈了基於至強6+處理器的新一代雲實例,圍繞任務啟動效率、內存資源利用率等關鍵因素進行優化後,其綜合性能較上一代提升30%以上。
聯合國副秘書長點贊!千問AI耳夾式耳機亮相烏鎮互聯網大會
他認為,產品非常實用,適合自己日常工作中需要使用多國語言進行交流的場景。面對面交流時,用戶可以通過耳機收聽譯文;會議中的討論內容,也能通過AI聽記整理為結構化紀要,方便會後回顧。連接千問App後,用戶還可通過語音交辦資料研究等任務、接收完成提醒,讓耳機成為日常辦公的隨身助手。