​谷歌發佈LiteRT.js：瀏覽器跑AI推理最高快 3 倍，WebAssembly硬核加速

谷歌正式推出全新 Web 端 AI 推理加速庫 LiteRT.js，這項以 WebAssembly 為核心技術的解決方案，標誌著瀏覽器端機器學習運算正式進入硬體加速新階段。官方宣稱，該庫在特定硬體環境下可將推理速度提升最高三倍，為讓網頁應用無需安裝任何客戶端即可流暢運行 AI 模型，跨出了關鍵一步。 LiteRT.js 的設計初衷，在於取代谷歌先前主推的 TensorFlow.js 所使用的傳統 JavaScript 內核方案。TensorFlow.js 一直是開發者將基於 TensorFlow 框架訓練的模型部署至瀏覽器的主要工具，讓客戶端 AI 功能如影像辨識、自然語言處理得以在網頁內直接執行。然而，隨著模型規模日益增長與即時性要求的提高，純 JavaScript 的運算效能逐漸成為瓶頸。 LiteRT.js 的應對之道，是全面擁抱 WebAssembly 這套二進制指令格式。WebAssembly 允許網頁在瀏覽器中以接近本地機器碼的速度執行高效能計算，從根本上跳脫 JavaScript 的直譯器限制。在此基礎上，LiteRT.js 更進一步深度結合 WebGPU 與 WebNN 兩項新興硬體加速 API，讓 GPU 與專用神經網路處理單元能夠被瀏覽器直接調用，實現從軟體到硬體的全鏈條加速。 谷歌在開發者部落格與技術文件中公布了初步實測數據。測試平台為搭載 M4 晶片的 2024 年款 MacBook Pro，以多組常見的視覺與語言模型進行比對。結果顯示，LiteRT.js 的推理速度相較於 TensorFlow.js 現有方案，最高提升了整整三倍。這項結果展現了 WebAssembly 結合硬體加速的巨大潛力。 不過谷歌也坦承，這項效能優勢並非在所有環境下都能複製。當使用較舊的硬體，或是採用不同 JavaScript 引擎的瀏覽器時，實際表現可能會存在差異。官方建議開發者應根據目標用戶的設備分布進行充分測試，以確保最終體驗的一致性。 從技術發展路徑觀察，谷歌正推動 Web 端 AI 推理從純 JavaScript 時代，全面轉向 WebAssembly 加上硬體加速的新典範。當瀏覽器執行 AI 模型的速度逐漸逼近原生應用程式的水平，用戶將能享受「打開網頁即可使用 AI」的流暢感，完全免除安裝、更新與跨平台相容的煩惱。 這項發展對於端側 AI 的普及具有深遠意義。過去許多需要高運算量的模型因為無法在瀏覽器中即時運行，只能依賴雲端伺服器，帶來延遲與隱私權的雙重疑慮。LiteRT.js 企圖打破這個限制，讓更多推理任務直接在使用者的裝置上完成，既降低延遲也保護資料安全。 從生態系角度來看，LiteRT.js 的推出也讓現有 TensorFlow.js 社群面臨過渡與學習曲線。雖然谷歌表示會持續維護 TensorFlow.js，但官方建議新專案優先考慮 LiteRT.js，尤其是對運算效率有嚴格要求的場景。開發者需熟悉 WebAssembly 模組的載入方式以及 WebGPU/WebNN 的調用配置。 目前 LiteRT.js 已經開放原始碼，並提供 npm 套件與 CDN 引用兩種整合途徑。谷歌同時釋出數組預先轉換好的模型範例，涵蓋物件偵測、語意分割與文字分類等常見任務，讓開發者可以快速體驗效能提升。官方文件也詳細說明如何將現有 TensorFlow.js 模型轉換為 LiteRT.js 相容格式。 隨著各大瀏覽器廠商逐步完善對 WebGPU 與 WebNN 的支援，LiteRT.js 的潛力可望進一步釋放。目前 Chrome 與 Edge 已完整支援 WebGPU，而 Firefox 與 Safari 也正加快跟進腳步。當主流瀏覽器都具備一致的高效能硬體加速能力，網頁 AI 應用的開發模式與用戶體驗都將迎來重大轉變。 LiteRT.js 的發布時間點，恰逢各大科技公司紛紛加碼端側 AI 解決方案的熱潮。從微軟視覺模型 Florence-2 在瀏覽器中本地運行，到 OpenAI、MiniMax 等業者的融資與技術進展，業界對「無需雲端、即開即用」的 AI 體驗寄予厚望。谷歌此時推出具備實測三倍提速的加速庫，無疑為這個趨勢再添一把火。 對於終端用戶而言，LiteRT.js 帶來的改變可能不會立刻被察覺，但當他們使用瀏覽器中的圖片去背、即時翻譯、語音轉文字等功能時，會發現回應變得更快、更順暢。而對於開發者，這項技術則大幅降低了在網頁中部署高效能 AI 功能的門檻，讓更多創意能夠直接在瀏覽器中實現。 目前 LiteRT.js 仍處於早期採用階段，谷歌鼓勵社群回報在不同裝置與瀏覽器組合下的實際表現，以持續最佳化效能。隨著 WebAssembly 生態的成熟與硬體加速標準的統一，瀏覽器跑 AI 模型的速度可望持續逼近原生水準，最終讓網頁成為真正意義上的輕量級 AI 運算平台。