谷歌發佈 LiteRT.js 庫，Web AI 推理最高提速 3 倍

谷歌於昨日（7月9日）正式發表全新的 LiteRT.js 函式庫，目標是大幅加速瀏覽器端的人工智慧與機器學習工作負載。這項新工具主要透過 WebAssembly 技術，並結合 WebGPU 與 WebNN 等硬體加速介面，取代舊有 TensorFlow.js 所使用的 JavaScript 核心方案，據稱能將推理效能提升最高達三倍。長期以來，TensorFlow.js 讓開發者能夠在 JavaScript 環境中建構、訓練及部署機器學習模型，並將相關應用直接移植到網頁瀏覽器上，實現客戶端的 AI 功能。

不過，由於其底層採用 JavaScript 核心來執行運算，在面對複雜模型或大量資料時，效能往往受到限制。LiteRT.js 的出現，正是為了解決這項瓶頸。LiteRT.js 的核心是 WebAssembly（Wasm），這是一種低階的二進位指令格式，讓網頁能夠在瀏覽器中以接近原生程式的速度執行高效能計算。WebAssembly 近年已成為瀏覽器端高效能應用的重要標準，尤其適合需要大量數值運算的機器學習任務。在此基礎上，LiteRT.

js 更進一步整合 WebGPU 與 WebNN 兩個新興的硬體加速 API，分別利用 GPU 與專用神經網路處理單元來分擔運算負擔，從而跳脫傳統 JavaScript 引擎的效能天花板。具體測試方面，谷歌在搭載 M4 晶片的 2024 年款 MacBook Pro 上進行了基準比較。結果顯示，LiteRT.js 的推理速度相較於既有方案（即 TensorFlow.js 的 JavaScript 核心模式）提升了約三倍。這意味著同樣的影像辨識、語音處理或自然語言模型，在使用新函式庫後可以更快獲得結果，使用者體驗將有顯著改善。

不過，谷歌也在官方部落格中提醒，實際效能增益會因硬體世代及瀏覽器引擎而異。在較舊的裝置或使用不同渲染核心的瀏覽器上，速度提升幅度可能不如測試環境般顯著。開發者若要在產品中導入 LiteRT.js，仍需針對目標平台進行驗證。從技術生態角度來看，LiteRT.js 的發表代表谷歌持續深耕瀏覽器端 AI 的決心。過去幾年，TensorFlow.js 已讓眾多前端工程師能夠在網頁中直接執行機器學習推論，但效能始終是無法迴避的痛點。如今透過 WebAssembly 與新一代硬體 API 的組合，不僅能夠減輕伺服器端的負載，也能讓更多具備隱私敏感性的即時應用（如離線語音辨識、客戶端影像處理）成為可能。

此外，LiteRT.js 的名稱本身就帶有「輕量執行環境」的意味，暗示其在體積與啟動速度上應有特別最佳化。雖然官方尚未公布完整的支援矩陣，但從當前主流瀏覽器對 WebGPU 與 WebNN 的逐步支援來看，這套新函式庫有望在 Chrome、Edge 及基於 Chromium 的瀏覽器上獲得良好支援，未來也可能擴展至 Firefox 與 Safari，端看各瀏覽器廠商對相關標準的實作進度。對於習慣使用 TensorFlow.js 的開發者而言，LiteRT.js 提供了一條更高效能的升級路徑。由於兩者皆沿用相同的模型格式與部分 API 設計，遷移成本應可控制在合理範圍內。

谷歌預期，這項新工具將吸引更多電腦視覺、自然語言處理及音訊分析的開發者，將過去因效能考量而留在後端的模型，直接搬遷到瀏覽器中執行。隨著瀏覽器本身的功能越來越強大，Web 平台與原生應用之間的界線正逐漸模糊。LiteRT.js 的推出，無疑為網頁 AI 應用注入了一劑強心針，也為未來更即時、更智慧的使用者互動體驗鋪平道路。業界普遍認為，當瀏覽器能夠承擔更多前端運算時，整體服務的架構設計也將隨之翻轉。在此次發布中，谷歌同時更新了相關的開發文件與範例程式碼，協助開發者快速上手。雖然目前 LiteRT.js 仍處於早期推廣階段，但其展現的效能潛力已經引起社群熱烈討論。

隨著更多最佳化版本的推出，以及瀏覽器端硬體加速介面的普及，這套函式庫很可能成為下一代 Web AI 應用的關鍵基礎元件。