對話盛穎：xAI，Infra的浪漫，SGLang，開源，平權與“甄嬛傳”

前 xAI 推理團隊負責人盛穎，近期因一手創建的開源推理引擎 SGLang 成為 AI 基礎設施領域的焦點人物。這位畢業於上海交通大學 ACM 班，並在哥倫比亞大學與史丹佛大學取得計算機科學碩士與博士學位的技術專家，其研究歷程橫跨算法、形式化驗證與大模型系統。在大模型浪潮興起後，她以 LMSYS 開源社區核心成員的身份，參與推動多項具行業影響力的項目，隨後加入 xAI 共同領導 Grok 的推理團隊，將開源研究帶入全球最前沿的大模型工程實踐。

如今，盛穎從 SGLang 開源生態中孵化出創業公司 RadixArk，目標是將少數科技巨頭才能擁有的前沿 AI 基礎設施，轉變為整個行業都能使用的開放技術底座。RadixArk 在創立之初便完成 1 億美元種子輪融資，投資方幾乎集齊了硅谷所有的算力巨頭與技術領袖人物。這場對談中，盛穎從數學之美、論文與低谷，聊到 SGLang、xAI 與 RadixArk，也談到一個人如何逐漸理解自己的天性，並決定不再與之對抗。盛穎回憶，自己在上海交通大學 ACM 班就讀時，就對數學與計算機科學的底層邏輯充滿熱情。她認為，數學不僅是工具，更是一種語言，能夠精確描述世界運行的規律。

這種對抽象結構的迷戀，引導她後來在哥倫比亞大學與史丹佛大學攻讀學位時，選擇了形式化驗證作為研究方向。形式化驗證是一門用數學方法證明軟硬體系統正確性的學科，看似與後來的 AI 推理引擎相距甚遠，但盛穎強調，兩者在本質上都追求「系統的確定性與效率」。在學術生涯中，盛穎也曾經歷低谷。她坦言，博士期間的論文投稿屢屢被拒，讓她一度懷疑自己的研究方向是否正確。但正是這些挫折，讓她學會從失敗中提煉問題的本質，並逐漸建立起對長期研究的耐心。她認為，學術界與工業界最大的差異在於，前者追求理論的完美，後者則必須在資源與時間的限制下找到可行的解決方案。這種張力，反而成為她後來設計 SGLang 時的重要養分。

SGLang 的誕生，源於盛穎在 LMSYS 開源社區的觀察。當時，大模型的推理效率成為制約應用的瓶頸，許多團隊在部署模型時，往往需要花費大量時間調整底層系統。盛穎決定從推理引擎入手，設計一個既能保持靈活性、又能最大化硬體利用率的開源框架。SGLang 的核心創新在於，它將模型推理的過程抽象為一個可編程的語言，讓開發者能夠以更直觀的方式控制計算流程，同時自動優化記憶體與帶寬的使用。這個開源項目迅速獲得社區關注，並成為許多大模型部署與推理的重要底層工具。

盛穎表示，SGLang 的成功並非偶然，而是因為它解決了實際問題：在 AI 基礎設施領域，封閉的商業方案往往價格高昂且不透明，開源方案則能讓更多團隊以低成本獲得高效能。她強調，開源不僅是技術共享，更是一種「平權」運動，讓資源有限的初創公司與學術機構，也能參與到最前沿的 AI 應用開發中。2024 年，盛穎加入 xAI，共同領導 Grok 的推理團隊。這段經歷讓她有機會將開源研究帶入全球最前沿的大模型工程實踐。她回憶，xAI 的工程文化極度重視效率與創新，團隊成員來自不同背景，但都對「構建下一代 AI」充滿熱情。

在 xAI，她學到如何在大規模系統中權衡性能與成本，以及如何在快速迭代的環境中保持技術的穩定性。她將這些經驗反饋到 SGLang 的開發中，使框架能夠更好地適應超大規模部署的需求。然而，盛穎也觀察到，AI 基礎設施領域存在嚴重的資源集中現象。少數科技巨頭憑藉雄厚的資本與算力，能夠打造出頂尖的內部工具，而多數開發者與企業卻只能使用次優的方案。這種不平等，正是她創辦 RadixArk 的初衷。RadixArk 的目標是將 SGLang 從一個開源項目，升級為一個完整的商業化平台，提供從推理引擎到部署管線的全套解決方案。

她希望，RadixArk 能夠成為 AI 基礎設施領域的「開放底座」，讓任何團隊都能以合理的成本，獲得與科技巨頭相當的技術能力。RadixArk 的種子輪融資規模達到 1 億美元，投資方幾乎涵蓋了硅谷所有主要的算力供應商與技術領袖。盛穎表示，這筆資金將用於擴充團隊、加速產品開發，並進一步強化 SGLang 的生態。她強調，RadixArk 並非單純的商業公司，而是一個以開源為核心的技術社區延伸。公司的成功，將取決於能否持續吸引開發者貢獻程式碼，並讓用戶真正感受到開放技術的價值。談到個人成長，盛穎分享了自己如何逐漸理解天性，並決定不再與之對抗。

她坦言，自己過去經常因為過度追求完美而陷入內耗，但隨著經驗累積，她學會接受「不完美」是常態，並將精力集中在真正重要的事情上。她認為，無論是學術研究還是創業，都需要找到自己的節奏，而不是盲目跟隨潮流。這種心態，也反映在她對 AI 基礎設施的看法上：技術的演進不應被少數人的意志主導，而應由整個社區共同塑造。盛穎最後表示，AI 基礎設施的未來，將取決於開源社區能否持續保持活力。她呼籲更多開發者參與到 SGLang 與 RadixArk 的建設中，因為只有當技術真正開放時，AI 的潛力才能被充分釋放。

從數學之美到工程實踐，從學術低谷到創業高峰，盛穎的故事不僅是一個技術專家的成長史，更是一個關於開放、平權與長期主義的啟示。