NVIDIA Details BioNeMo Inference Runtime (BioIR): 2.90x Higher Boltz-2 Folding Throughput and 58.5K Residues per GPU-Hour on 8xH100

NVIDIA 近日公布 BioNeMo Inference Runtime（BioIR）的最新效能數據，將焦點放在蛋白質結構預測的推論加速。根據官方揭露的基準測試結果，BioIR 搭配 Boltz-2 模型時，折疊吞吐量較既有方案提升 2.90 倍；在 8 顆 H100 加速卡的配置下，每 GPU 小時可處理約 58,500 個殘基。這項數字顯示，當推論執行環境與硬體配置同步最佳化後，大規模蛋白質折疊任務的處理效率可以明顯往前推進。這組基準測試是 NVIDIA 針對新一代藥物發現與蛋白質工程工作負載所進行的效能測試。

官方強調，硬體與推論加速架構結合之後，能有效突破過去計算效能與吞吐量之間的瓶頸。對於需要大量結構預測的流程而言，這類改善不只是單一模型的跑分變化，而是推論基礎設施能否支撐實際工作量的關鍵。蛋白質結構預測一直是藥物發現與蛋白質工程的重要環節。研究團隊若要在大量候選序列中找出可行目標，往往需要反覆執行折疊與結構評估。當任務數量增加，系統能否在合理時間內完成推論，會直接影響整體研發節奏。BioIR 的效能數據因此不只是一項技術指標，也反映出推論層在生物分子研究流程中的角色正在加重。從工作模式來看，生物分子結構預測領域正出現轉變。

過去研究人員多半以單一目標蛋白質的折疊為主要執行方式，一次處理一個或少數目標；但現在的工作排程已逐步朝向蛋白質體（proteome）規模的批次任務發展。換句話說，折疊不再只是個別研究問題，而是愈來愈常被放進大規模、可重複的運算排程中。這樣的轉變也改變了瓶頸位置。隨著工作清單從單一目標擴展至大規模篩選，圍繞在模型本身是否能成功預測結構的問題，已不再是首要障礙。真正需要解決的是，如何以高效率、低延遲的方式完成數百萬個殘基的運算。模型預測能力固然重要，但若後端推論速度跟不上，整體篩選流程仍然會被卡住。BioIR 的設計與效能提升，正指向能夠平衡這類大規模推論的環節。

它的目標不是只讓單次摺疊更快，而是讓基礎模型能更快速地融入實際應用流程。對於蛋白質體規模的批次任務來說，穩定、可擴展的推論吞吐量，往往比單次實驗的峰值速度更具實際意義。以 8 顆 H100 的配置為例，每 GPU 小時約 58,500 個殘基的吞吐量，提供了一種可比較的規模化指標。這種以 GPU 小時歸一化的數據，能讓研究人員評估在特定硬體資源下，整體摺疊任務需要多少時間與算力。相較於只觀察單次運行時間，每 GPU 小時的吞吐量更貼近大規模部署時的資源規劃需求。2.90 倍的提升則是另一個觀察重點。

官方將 BioIR 搭配 Boltz-2 的表現，與既有方案進行比較，顯示推論執行環境對折疊吞吐量有直接影響。這意味著，同樣的模型與硬體若缺少合適的推論加速架構，可能無法充分發揮加速卡應有的處理能力。BioIR 的價值，正是在模型與硬體之間補上效率落差。對藥物發現與蛋白質工程而言，大規模結構預測的意義在於篩選與迭代。當工作清單從單一目標擴展到蛋白質體規模，系統必須處理的不再只是少數幾個摺疊任務，而是持續湧入的批次請求。此時，低延遲與高吞吐量會同時成為設計目標。BioIR 所鎖定的，就是這類需要兼顧速度與規模的推論場景。

NVIDIA 此次公布的效能數據，也凸顯推論階段在生物基礎模型應用中的重要性。模型訓練完成之後，真正落地到研究流程的往往是大量推論任務。若推論效率不足，即使模型本身具備良好預測能力，也難以支撐數百萬個殘基等級的運算需求。BioIR 的定位，便是讓基礎模型在推論端更接近可實際運作的狀態。從單目標摺疊到蛋白質體規模的批次任務，工作排程的轉變正在改變研究團隊對算力的期待。過去可能只需關注模型是否能準確預測結構，現在則必須同時回答如何高效率、低延遲地完成龐大運算。BioIR 搭配 Boltz-2 的 2.

90 倍吞吐量提升，以及在 8 顆 H100 上每 GPU 小時約 58,500 個殘基的表現，正好對應這項需求。整體來看，NVIDIA 透過 BioIR 的最新基準測試，將焦點放在大規模蛋白質結構預測的推論效能。當生物分子研究逐步走向批次化與規模化，能否把硬體與推論加速架構有效結合，將成為基礎模型進入實際應用流程的關鍵。BioIR 的數據顯示，這條路徑已經出現可量化的進展。