103μs 降到 18μs 背後，Cursor 為何劍指英偉達，重寫 GPU？

NVIDIA 於七月二十一日公布了 GB300 NVL72 在訓練 DeepSeek-V3 模型時的最新成績，在僅使用 256 張 GPU 的配置下，單卡運算性能達到了 1,648 TFLOPS。這個數字不僅再次展示了 NVIDIA 在超大規模模型訓練領域的壓倒性實力，也讓外界看到其從晶片到互連技術的完整生態系優勢，依然難以撼動。然而，就在這份成績單公布的同時，一條截然不同的技術路線也悄悄浮上檯面。這項名為 MoK 的方案，試圖跳脫傳統 GPU 運算中「調度、通信、計算」各自獨立的框架，將 token 調度、跨 GPU 通信與專家計算全部整合進同一個 GPU 內核之中。

換句話說，它要從更底層的位置，重新改寫 GPU 的運作方式。MoK 的特殊之處，在於它不再把調度、通信與計算視為三個分離的環節，而是將它們融合為單一內核。這樣的設計思維，意味著資料在訓練過程中不需要反覆在 GPU 之間往返傳遞，邏輯判斷與數值運算可以在同一處完成，從而使整體流程變得遠比傳統架構更緊湊、更直接。在傳統的混合專家模型（MoE）訓練中，token 需要被動態分配給不同的專家網路，這個過程牽涉大量的路由器判斷，以及隨之而來的跨 GPU 資料搬移。當模型規模擴大到數千億甚至上兆參數時，這類通信開銷往往成為效能瓶頸，甚至比單純的矩陣運算更耗時。

MoK 的出現，正是為了從內核層級消滅這些不必要的來回浪費。這條路線與 NVIDIA 長期以來「堆疊算力」的思維形成了鮮明對比。NVIDIA 的優勢建立在頂尖的硬體設計與高速互連技術之上，透過 NVLink 等方案讓 GPU 之間的通訊不再是瓶頸；而 MoK 則不再依賴外部互連的提速，反而從系統設計端尋找破口，把原本必須分散處理的工作全部收攏進同一顆內核，從根本上改變運算的邏輯。值得注意的是，MoK 的整合式設計，反映出業界對 GPU 架構的一種另類思考：當硬體效能增長逐漸放緩，軟體層級與內核層級的重構，是否能夠成為突破下一個運算天花板的新鑰匙？

這並不是要取代 NVIDIA 的硬體路線，而是試圖在既有的 GPU 生態中，找到一條更高效的執行路徑。從實際成果來看，NVIDIA 依然以數字證明了自己在超大規模模型訓練上的優勢，GB300 NVL72 的成績單，足以讓任何競爭對手感到壓力。然而，MoK 的出現也提醒了市場，算力競賽的本質正在悄悄發生變化。過去，大家比的是誰的 GPU 更多、誰的時脈更高、誰的記憶體更大；現在，內核的設計方式、調度的效率、通信的減少，正在成為新的戰場。兩條路線的交鋒，表面上是一場技術選擇之爭，更深層來看，其實是整個 GPU 產業從「硬體軍備競賽」走向「架構重新想像」的轉折訊號。

NVIDIA 的成績固然亮眼，但 MoK 所代表的系統級創新，也絕非等閒之輩。當調度、通信與計算被放進同一顆內核的那一刻起，GPU 領域的競爭就不再只是算力數字的加減乘除，而是延伸到了更深層的內核設計與整體架構的重新定義。對開發者而言，這兩種路線各有可取之處。NVIDIA 提供的是穩定、成熟、經過大規模驗證的完整平台；MoK 則提供了一種可能性——即便在同樣的硬體上，只要重新設計內核邏輯，依然可以榨出更多的效能。這種「軟體重新定義硬體潛力」的思維，在未來 AI 模型持續膨脹的趨勢下，將扮演越來越重要的角色。目前，MoK 仍處於概念驗證與初步實作的階段，距離大規模商業化還有相當長的路要走。

但它的出現，已經為 GPU 領域開啟了一個新的討論方向：與其盲目追求更多的 GPU，不如問問自己，現有的 GPU 是否真的被用到了極致？在 NVIDIA 以驚人數字橫掃市場的同時，這些來自系統設計端的挑戰者，正在用另一種方式改寫遊戲規則。