已在 iPhone 17 Pro 上完整運行 Qwen 3.6，消息稱 PrismML 模型 AI 壓縮技術被蘋果看中

科技媒體 The Information 昨日（7 月 9 日）披露，蘋果公司近期正與一家名為 PrismML 的 AI 初創公司進行接洽，評估該公司在 iPhone 上直接運行更大規模人工智慧模型的技術可行性。這項合作若成局，有望讓未來 iPhone 的端側 AI 能力出現顯著躍升。PrismML 是從加州理工學院（Caltech）衍生出來的 AI 初創團隊，其核心技術是一套名為「原生 1-bit 模型壓縮」的方案。不同於傳統的模型量化方式，這套技術將模型中的權重僅以 {-1, +1} 兩個數值表示，並搭配分組縮放因子來維持表達力。

該公司強調，這種方法並非傳統量化，沒有所謂的「高精度逃生通道」，因此能在極度壓縮模型體積的同時，保留接近 FP16（16 位浮點數）全精度模型的準確度。根據 PrismML 公布的數據，這項壓縮技術可將模型體積縮小至全精度版本的約 1/14，記憶體佔用降低超過 90%。在推理效能方面，宣稱最高可帶來 8 倍的推理速度提升，同時能耗降低 75% 至 80%。對於行動裝置而言，這樣的表現意味著即使是參數量龐大的大型語言模型，也有機會在手機晶片上流暢運行，而不必完全依賴雲端連線。為了證明技術的實際可行性，PrismML 團隊選擇了阿里巴巴開源的大型語言模型 Qwen 3.6 進行精簡與移植。

Qwen 3.6 擁有 270 億個參數（27B），屬於當前主流開源模型中規模較大的版本。報導指出，PrismML 成功將這款模型完整壓縮，並在 iPhone 17 Pro 上順利運行，顯示其壓縮技術已達到能在旗艦手機上實際部署的程度。蘋果對這項技術展現高度興趣，主要在於其量化能力能顯著提升本地 AI 模型的推論效能。目前蘋果已在 iPhone 上推出多項基於端側 AI 的功能，例如智慧照片編輯、即時語音辨識與建議等，但若要處理更複雜、參數量更大的生成式 AI 任務，現有裝置的運算與記憶體資源仍相對受限。

若能導入 PrismML 的壓縮技術，便可望在保護用戶隱私（資料不需上傳雲端）的前提下，實現更強大的本地 AI 體驗。業界分析認為，蘋果一直致力於強化裝置端的人工智慧能力，從其自研晶片中的神經網路引擎，到近年陸續推出的 AI 相關框架，均可看出端倪。PrismML 的 1-bit 壓縮技術恰好補足了蘋果在模型輕量化這一環節的需求，讓原本需要伺服器等級算力的大型語言模型有機會在手機上即時運作。值得注意的是，這項技術並非單純的「壓縮後再解壓縮」，而是在訓練與推論階段就採用原生 1-bit 表示法，從根本上減少資料運算量。

PrismML 聲稱，這種設計避免了傳統量化方法常見的精度損失問題，同時大幅降低晶片在運算過程中的能耗與發熱，對於行動裝置的續航與散熱設計都是利多。目前蘋果與 PrismML 的洽談仍在初期階段，尚未有最終合作協議的公開資訊。不過，外界普遍認為，一旦蘋果決定導入這項技術，最快可能在未來幾代的 iPhone 或 iPad 中見到成果。尤其 iPhone 17 Pro 已被用於展示 Qwen 3.6 的運行，顯示該機型的硬體效能已可配合此壓縮方案，未來若加上專屬的軟體最佳化，端側 AI 的表現將更上一層樓。

從更大的產業脈絡來看，手機廠商與 AI 模型開發者正競相尋找在終端裝置上部署大模型的最佳解方。PrismML 的出現提供了另一條技術路徑，與高通、聯發科等晶片廠商的硬體加速方案，以及 Google、三星等推出的純軟體最佳化策略，形成互補競爭。蘋果若能率先整合原生 1-bit 壓縮技術，將有機會在下一波 AI 手機競賽中取得領先優勢。綜合 The Information 的報導，PrismML 的技術已獲得具體驗證，蘋果的接洽動作也凸顯該公司對於提升本地 AI 效能的迫切需求。

隨著生成式 AI 應用逐步從雲端走向邊緣，如何在有限的硬體資源內運行高效能的模型，已成為所有消費電子大廠共同面對的課題，而 PrismML 的壓縮方案或許提供了其中一個極具吸引力的答案。