最高降價 99%，小米 MiMo 首次公開模型推理系統全鏈路優化技術細節
重點摘要
小米通過 Hybrid SWA 架構重構 KVCache 管理系統，將存儲壓縮至 1/7，結合分級緩存與調度優化，顯著降低長序列推理成本。這是業內首篇全面覆蓋 Hybrid SWA+MoE+ 多模態架構的大規模工程落地方案，已將節省成本以 API 降價回饋用戶。#小米 MiMo# #大模型推理優化#
小米 MiMo 近期首度對外公開其大模型推理系統的全鏈路優化技術細節，其中最引人矚目的亮點是 API 調用價格最高降幅達 99%。這項技術突破主要來自於小米自行研發的 Hybrid SWA（混合滑動視窗注意力）架構，透過重新設計 KVCache（鍵值快取）管理機制，將儲存空間壓縮至原來的七分之一，同時搭配分級快取與智慧調度策略，顯著降低長序列推理過程中的運算成本。小米表示，這項成果已是業內第一篇完整涵蓋 Hybrid SWA、混合專家模型（MoE）以及多模態架構的大規模工程落地實例，而節省下來的成本也直接反映在 API 價格上，回饋給開發者與企業客戶。
從技術層面來看，Hybrid SWA 的核心在於打破傳統注意力機制的記憶瓶頸。大模型在處理長文本或多輪對話時，KVCache 往往佔據大量記憶體，導致推理速度變慢且成本高昂。小米透過混合滑動視窗的設計，讓模型只在局部範圍內計算注意力權重，並搭配分級快取機制，將熱門或重複出現的內容暫存在更高效率的儲存層，進一步減少重複讀寫的開銷。這樣的優化不僅讓長序列場景下的推理更流暢，也為後續多模態應用（如圖文理解、影片分析）提供了更經濟的運算基礎。
從產業背景來看，大模型推理的「降本」一直是各廠商競逐的重點。過去一年，多家雲端服務商陸續調降大模型 API 價格，但多數降價集中在短序列或基礎對話場景；對於需要處理大量上下文的高階應用（如程式碼生成、文獻分析、客服系統），成本壓力仍然顯著。小米 MiMo 此次選擇公開全鏈路優化細節，除了展現技術實力，也試圖在競爭激烈的 AI 市場中建立差異化優勢。值得注意的是，Hybrid SWA 與 MoE 架構的結合，意味著小米在保證模型表現的同時，還能兼顧部署效率，這對資源有限的邊緣裝置或行動端應用尤其重要。
這項技術的公開，對開發者與企業用戶而言，可能帶來幾項直接影響。首先是 API 使用成本的急遽下降，尤其是過去因預算考量而不敢採用長序列模型的新創團隊或中小企業，如今有機會以更低門檻嘗試更複雜的 AI 功能。其次，小米 MiMo 的優化思路可能引發業界仿效，促使其他模型供應商重新審視自家的推理系統，並加速推出類似方案。再者，由於 MiMo 同時支援多模態，這波降價也可能間接刺激圖像生成、影片理解等跨模態應用的普及，讓更多產品能整合視覺與語言能力。
對於讀者而言，後續可關注幾個方向。第一，小米是否會將 Hybrid SWA 等技術細節以論文或開源工具形式釋出，藉此吸引外部開發者貢獻與反饋，進一步完善生態。第二，降價後的 API 服務是否能在穩定性和延遲上維持高品質，特別是在尖峰時段或高併發場景下的表現。第三，其他競爭對手（如 Google、Meta 或本土廠商）可能迅速跟進類似架構，屆時市場將出現新一波價格戰或技術規格競賽。第四，小米 MiMo 的優化能否延伸至端側模型（例如手機、家電），讓消費者直接體驗到更快的推論速度與更低的運算耗能。
總結來說，小米 MiMo 此次公開全鏈路優化技術，不只是一次降價促銷，更象徵著大規模模型推理工程從「理論可行」走向「經濟可行」的關鍵一步。Hybrid SWA 的壓縮效率、分級快取的調度智慧，以及與 MoE、多模態的融合，為業界提供了一份具參考價值的實踐藍圖。未來若能持續迭代並擴大應用場景，小米在 AI 基礎設施領域的影響力將不容小覷。讀者可以持續追蹤該平台的
Related
相關文章
Liquid AI Introduces LFM2.5-Embedding-350M and LFM2.5-ColBERT-350M: Dense Bi-Encoder and Late-Interaction Models for Fast Multilingual Search Across 11 Languages
This week, Liquid AI released two new retrieval models. They are LFM2.5-ColBERT-350M and LFM2.5-Embedding-350M. Both hold 350M parameters. Both are the first bidirectional members of the LFM family. They build on LFM2.5-350M-Base, released in March. The pair targets fast multilingual and cross-lingual search across 11 languages. Their footprint is small enough to run almost anywhere. Both are available now on Hugging Face under the LFM Open License v1.0. LFM2.5 Retrievers The two models share one backbone but represent text differently. LFM2.5-Embedding-350M is a dense bi-encoder. It turns each document into a single vector. Pick it when you want the fastest search and the smallest, cheapest index. LFM2.5-ColBERT-350M is a late-interaction model. It converts each token into a vector rather
Perplexity Launches Brain, a Self-Improving Memory System That Builds a Context Graph of an Agent’s Work and Learns Overnight
Most AI memory remembers the user. It stores your preferences, your tastes, and your role. Perplexity is taking a different path. Today, Perplexity launched Brain, a self-improving memory system for its agent product, Computer. Brain does not focus on remembering you. It remembers what the agent did. That reframes what memory in AI is for. What is Perplexity‘s Brain Brain is a self-improving memory system. It builds a context graph of the work Computer performs. At set intervals, such as overnight, Brain reviews that graph. It then teaches itself how to do the work better. The idea is straightforward. The more work you do, the more efficient Brain makes your Computer. Brain is rolling out today to Perplexity Max and Enterprise Max subscribers in Research Preview. Two Axes of AI Memory Perp
智譜新高，MiniMax承壓，“大模型雙雄”命運殊途
這篇消息聚焦「智譜新高，MiniMax承壓，“大模型雙雄”命運殊途」。原始導語提到：大模型在被市場重新定價 從 AI 情報角度來看，這類內容值得關注其背後的技術進展、產品落地、產業競爭與後續市場影響。
華為昇騰 0 Day 支持智譜 GLM-5.2 模型，提供全面推理優化
華為昇騰 AI 宣佈在智譜開源 GLM-5.2 大模型當天即完成深度推理優化。通過 MOE 大融合算子、通信計算融合、高併發調度等七項關鍵技術，顯著提升編程和長程任務的處理效率，現已支持 A3 系列產品部署。#AI 大模型# #國產算力#
企業AI轉型再添利器：青雲科技算力雲接入 MiniMax-M3 模型
企業AI落地面臨高效低成本難題。青雲科技旗下基石智算平臺接入國產開源大模型MiniMax-M3，提供新算力支持。MiniMax-M3以卓越上下文處理能力等三大核心技術見長，依託自研架構，助企業便捷部署AI業務。
阿里開源統一科學大模型 LOGOS，僅用五十六分之一參數超越微軟
阿里 ATH-Token Foundry 聯閤中國人民大學高瓴人工智能學院開源科學基礎模型 LOGOS。該模型採用統一科學語法與純序列建模範式，在六大科學任務上匹配或超越傳統專用方法。其中 LOGOS-1B 僅 1B 參數，即展現出極高效率，性能超越參數量達 8×7B 的微軟模型。