​27B大模型塞進iPhone！蘋果看中AI壓縮黑科技：體積縮到十四分之一，速度還快 8 倍

蘋果近期傳出正與AI新創公司PrismML接洽，評估能否將更大規模的大型語言模型直接放進iPhone運行。這項合作若成真，意味著蘋果在裝置端（on-device）AI能力的布局可能出現關鍵突破，讓手機不再需要仰賴雲端算力，就能流暢執行過去只有伺服器才能負荷的複雜模型。 PrismML是一家從加州理工學院（Caltech）衍生出來的AI初創企業，核心技術來自於原生1-bit模型壓縮架構。該技術能將模型體積壓縮至全精度版本的約十四分之一，記憶體佔用大幅降低超過90%。傳統量化方法多半透過減少位元數來縮小模型，但權重仍保留多個位元；PrismML則極端到只使用「-1」與「1」兩個值來表示權重，並配合分組縮放因子完成運算，從底層徹底改變模型的儲存與推理方式。 這項技術最引人注目的地方，在於它沒有傳統量化方案中常見的「高精度逃生通道」——也就是某些關鍵層仍保留較高精度以補償性能損失的折衷做法。PrismML在完全採用1-bit權重的前提下，宣稱仍能維持接近FP16（16位元浮點數）模型的精度水準。不僅如此，推理速度最高可提升8倍，能耗則降低75%至80%。這意味著手機端要運行大型AI模型所需的算力與電量門檻被大幅拉低，且不需犧牲模型品質。 最有力的驗證案例已經出爐：PrismML將阿里巴巴開源的27B參數大型語言模型Qwen 3.6進行壓縮後，成功在iPhone 17 Pro上完整跑通。27B參數規模在傳統架構下幾乎不可能在手機端順暢運作，但經過PrismML的1-bit壓縮後，不僅順利執行，還保持接近原版的推理品質。這項成果直接展示了壓縮技術的實戰能力。 蘋果看中的正是這種量化能力。對蘋果而言，裝置端AI的強弱直接影響Apple Intelligence生態的競爭力。當前iPhone上搭載的AI模型規模與功能仍受限於記憶體與功耗，若能導入PrismML的技術，iPhone有望在不增加硬體成本的前提下，運行更大規模的模型，進而實現更複雜的多輪對話、圖像理解乃至智慧體任務編排。 當手機端也能跑上旗艦級大模型，端側AI與雲端AI之間的能力天平可能迎來重新校準。過去受限於頻寬、延遲與隱私問題的應用場景，例如即時語音助理、離線翻譯、本地影像生成等，都有機會獲得顯著升級。PrismML的技術若能順利整合，不僅能強化iPhone的AI體驗，也可能對整個智慧型手機產業的AI路線產生示範效應。 不過，從接洽到實際導入產品仍需一段時間，蘋果是否會正式採用PrismML的解決方案，或自行發展類似技術，目前尚未明朗。業界普遍認為，端側AI的競爭已進入白熱化階段，任何能讓手機跑更大模型的突破，都可能成為下一波換機潮的關鍵推動力。