How Hugging Face Inference Endpoints, Jobs, and Buckets Power Search on Papers with Code

歷經三個月的重整，Hugging Face 團隊終於對外公開了 Papers with Code 全新搜尋功能背後的技術架構。這項計畫由研究工程師 Niels Rogge 在三個月前正式啟動，當時團隊也透過官方推文對外揭露消息。如今，隨著系統逐步到位，Hugging Face 進一步說明，這套搜尋服務並非由單一元件獨立完成，而是結合了自家三項核心基礎架構，分別是 Inference Endpoints、Jobs 以及 Buckets，三者各自肩負不同任務，共同支撐起使用者每天在 Papers with Code 上進行的論文與程式碼檢索。

根據 Hugging Face 部落格於 2026 年 8 月 21 日發布的文章，團隊在重新設計 Papers with Code 的過程中，首先面對的挑戰是如何讓使用者以自然、低延遲的方式找到論文與其實作程式碼。過去這類學術資源平台往往只提供靜態頁面或簡易關鍵字搜尋，難以應付大量且持續更新的資料。為了突破這項限制，Hugging Face 決定導入自家成熟的機器學習基礎架構，從推論、運算到儲存全面整合，打造一條完整的資料處理鏈路。在整個系統中，Inference Endpoints 扮演的是即時推論的關鍵角色。

這項服務能將訓練好的模型部署為可呼叫的 API，提供低延遲的反應速度，讓搜尋請求在送出的瞬間就能獲得模型運算後的結果。對 Papers with Code 這類需要快速比對論文內容與程式碼特徵的服務來說，低延遲意味著使用者體驗的顯著提升。無論是關鍵字理解、語意比對，或是推薦相關實作，Inference Endpoints 都能在使用者幾乎無感的情況下完成運算。至於 Jobs 則負責處理那些無法在短時間內完成、需要較長時間運算的背景任務。

舉例來說，當系統需要批次更新論文索引、重新計算論文之間的關聯性，或是定期從外部來源同步最新研究成果時，這些工作往往耗費大量運算資源，若直接放在搜尋請求的同步過程中執行，勢必拖慢整體回應速度。透過 Jobs 這項服務，Hugging Face 能將這些繁重工作排入背景佇列，讓系統在離峰時間或資源允許時分批完成，確保前端搜尋服務始終維持穩定。而 Buckets 則作為物件儲存層，負責保存論文資料、模型輸出以及暫存的中繼結果。對一個以學術論文與程式碼為核心的平台來說，資料的完整性與存取效率格外重要。

透過 Buckets，Hugging Face 可以將不同階段產生的資料妥善保存，包括原始文件、使用者搜尋時產生的暫存快取，以及由模型推論出來的結果。這樣的設計不僅讓資料管理變得更彈性，也讓後續的資料回溯與分析有了可靠的基礎。值得注意的是，這三項服務並非各自獨立運作，而是緊密串聯在整個搜尋流程中。當使用者提出搜尋請求，Inference Endpoints 會即時解析意圖並產生初步結果，過程中若有需要用到先前批次運算好的資料，則從 Buckets 中快速讀取；而由 Jobs 所處理的背景任務，也會在完成後將成果寫入 Buckets，供下一次搜尋使用。

這種分工合作的架構，讓每個環節都能專注於自身擅長的工作，進而提升整體系統的吞吐量與穩定度。作者 Niels Rogge 在文章中回顧，這項計畫從發起到實際落地，大約經歷了三個月的時間。這段期間內，團隊不僅要設計系統架構，還得反覆測試各項服務之間的連動是否順暢，同時也要確保資料格式與程式碼內容能與既有平台無縫接軌。目前相關內容與程式碼已經同步更新在 GitHub 上，讓有興趣的開發者與研究人員可以進一步查看實作細節，甚至自行部署類似的搜尋架構。對學術圈與機器學習社群而言，Papers with Code 一直是連結論文與實作的重要橋梁。

透過這次的技術翻新，Hugging Face 不僅延續了這個平台的使命，也展示了自家基礎架構在實際應用中的能耐。Inference Endpoints、Jobs 與 Buckets 的組合，既是搜尋功能的技術骨幹，也是 Hugging Face 近年來積極推動的雲端服務生態系的一次具體示範。從長遠來看，這套架構的價值不僅止於搜尋功能本身。由於 Component 之間的高度模組化，未來團隊若要在此基礎上加入更多功能，例如論文推薦、引用分析或跨語言檢索，都能相對容易地擴展。而將系統運作的細節公開，也有助於外界理解大規模學術資料平台背後所需的基礎設施，進一步促進開源技術在資訊檢索領域的應用與發展。