PrismML 再出手:Bonsai 2 27B 以 1/9 內存佔用保留 Qwen3.8 27B 98.2% 性能

2026年9月18日 13:42
PrismML 再出手:Bonsai 2 27B 以 1/9 內存佔用保留 Qwen3.8 27B 98.2% 性能
站內 AI 整理稿

作者:溯波(實習) 責編:溯波 評論: 9 月 18 日消息,人工智能實驗室 PrismML 今年早些時候推出了微調模型 Bonsai 27B,以顯著更低的內存佔用實現了 Qwen3.6 27B 基礎模型 95% 的性能。而在當地時間 27 日,PrismML 宣佈推出三值量化版本的 Bonsai 2 27B。該模型將基礎模型升級至 Qwen3.8 27B,推理、編程、視覺、長程智能體性能全面提升,以不到 1/9 的內存佔用在綜合基準測試中得到了基礎模型 98.2% 的分數,整體表現甚至好於 Qwen3.6 27B。

PrismML 表示,Bonsai 2 27B 足以在本地承擔編程智能體循環、計算機使用工作流、私有文檔解析、多模態調試、混合編排等“真正的知識工作”,僅在需要時才調用雲端 API。Bonsai 2 27B 三值量化採用 FP16 分組縮放,每個權重的有效比特為 1.76,模型總大小為 5.9GB,支持 262K 上下文窗口。其在 NVIDIA GeForce RTX 5090 上擁有 143TPS 的詞元吞吐量,在 Apple Silicon M5 Max 上則可達 46.8TPS。這款模型在 GeForce RTX 4090 上的能效為 0.

714mWh / Token,比全精度 8B 模型低 40%。Bonsai 2 27B 可通過 CUDA 在 NVIDIA GPU 上運行,也可通過 MLX 在 Apple 設備上運行;其以 Apache 2.0 許可證開放權重。投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:PrismML,AI模型美國政府也部署阿里千問:《聯邦公報》網站被發現使用中國 AI 模型提供搜索服務安全顧慮成普及關鍵:外媒調查顯示超七成受訪者不願令 OpenClaw 等 AI 工具完全控制自己的電腦小米直播訓練 MiMo-V2.

6 模型,羅福莉稱沉寂半年鑽研一件事OpenAI 首次公開六起模型異常案例,涉及瞞報錯誤、編造數據及未經授權上傳文件階躍發佈 StepAudio 3 系列語音大模型,拿下多個全球第一OpenAI 聯合創始人布羅克曼:僅前沿 AI 大模型研發需放緩

Related

相關文章

量子位生成式AI

無問芯穹與華環電子簽署戰略合作,共同探索國產異構算力AI基礎設施新方向

無問芯穹與華環電子簽署戰略合作協議,雙方將結合各自在AI軟體平台、網路通信與硬體研發的優勢,共同探索國產異構算力基礎設施的協同方案。此次合作聚焦於智算中心解決方案及「Token工廠」新模式,目標是推動計算、網路與AI原生基礎設施深度融合,為AI規模化應用提供高效穩定的支撐。

57 分鐘前
IT之家生成式AI

優步全球範圍裁員 10%,被裁員工稱 AI 已大舉滲透日常工作

作者:清源 責編:清源 評論: 9 月 18 日消息,據《商業內幕》今天(18 日)晚間報道,在優步(Uber),AI 已經滲透到員工工作的許多環節,從回答 Slack 裡的內部問題,到替乘客行程中聯繫客服時收到的消息撰寫回復。6 名近期遭裁員的員工透露,過去幾個月,AI 在工作中的使用範圍明顯擴大,其中一些人甚至會通過提示詞讓 AI 完成相當一部分任務。

4 小時前
鈦媒體生成式AI

月之暗面遞表之後,Kimi 的成色要被驗算三遍

舒澤品牌手記2026.09.18 18:16 · 來自浙江全文4982字00:00 / 14:05Anthropic 的 30 萬次指控,會成為招股書的第幾頁?文 | 舒澤品牌手記9月17日,月之暗面發佈了一套金融行業解決方案。按官方披露,中信建投、中金公司、易方達等數十家金融機構已經在用 Kimi 處理投研建模、風險排查和盡調材料——研究人員把管理層報表、審計報告和盡調文件交給 Kimi,拿回一份可以繼續調整假設的 Excel 模型。同一天,深圳商報記者就港股上市進展、股東架構調整等事項向月之暗面發去採訪函。

6 小時前

Calibre上手 AI 互動寫作:電子書管理器搖身變成"文字冒險遊戲引擎"

這個遊戲默認藏而不發,不會跟著 Calibre 啟動就冒出來。用戶得主動在"首選項 — 工具欄和菜單"裡把它請到主工具欄,才算真正激活。它的玩法很清晰:由 AI 在後臺搭起並掌管一個虛構世界,用戶通過不斷輸入文字來推著故事往前走,等於把"讀電子書"這件事,翻轉成了"和 AI 一起寫故事"。

8 小時前