HBM之父金正浩：AI的本質是內存，GPU真正工作的時間只有10%

**HBM之父金正浩：AI的本質是內存，GPU真正工作的時間只有10%**

被業界譽為「HBM之父」的韓國科學技術院（KAIST）電氣工程系教授金正浩，近日在一場專訪中拋出顛覆性的觀點：AI的本質是內存，而非GPU。他指出，當前AI運算存在嚴重的結構性瓶頸，即使部署上百萬顆GPU，這些處理器真正用於運算的時間僅有10%。 金正浩教授早在2010年代初期便與SK海力士合作開發第一代HBM，主導多項底層架構研究，對半導體產業有極深的理解。他在訪談中解釋，每當ChatGPT生成一個詞彙，系統必須從HBM讀取資料、完成計算、再將結果寫回內存，讀寫過程幾乎佔據所有時間，GPU只能在旁等待。即便透過演算法優化，GPU的利用率也很難超過30%。這正是他長期以來主張「AI等於內存（AI = Memory）」的現實依據。 **GPU陷入「外通死局」**

金正浩對NVIDIA的現狀提出犀利分析。他觀察到，NVIDIA創辦人黃仁勳近期頻繁走訪韓國、參加綜藝節目、與各界會面，種種跡象顯示其內心不安。金正浩直言，GPU的技術成長已接近極限，人工智慧運算的未來，掌握在內存手中。 他解釋，GPU若要提升效能，只能擴大晶片面積、增加更多運算單元；但過高的熱量使得GPU背面必須安裝散熱裝置，無法像內存一樣垂直堆疊，從而陷入「外通死局」。隨著AI從訓練階段轉向推理階段，內存的重要性被重新定義。金教授強調，推理時代的關鍵在於能塞進AI裡多少數據，而決定這項能力的半導體正是內存。他進一步表示，無論是Google Gemini、OpenAI還是Anthropic Claude，誰能勝出，最終是由內存能力決定。 **HBM兩大核心：容量與頻寬**

金正浩將HBM的價值歸結為容量與頻寬兩大維度。他指出，隨著上下文工程、多模態輸入和AI代理（Agentic AI）的發展，內存需求每年以翻倍速度增長，十年後將達到千倍。傳統透過縮小晶體管增加容量的方式已逼近物理極限，因此必須走向「向上堆疊」的技術路線。 在頻寬方面，他以高速公路比喻，傳統內存如同8車道，HBM已發展至1024車道，甚至2048車道，未來可能達到百萬車道。只有透過並行通道同時傳輸海量數據，才能匹配AI運算的速度需求。 **HBF與HBS：下一代技術路線**

針對容量天花板，金正浩提出了下一條技術路線——HBF（High Bandwidth Flash）。這項技術是將NAND快閃記憶體像HBM一樣垂直堆疊。DRAM速度快但容量有限，NAND快閃記憶體則具備大容量與長期保存數據的優勢，足以在推理場景中滿足「冷數據」的存儲需求。他預測，未來HBM與HBF將形成共存格局，如同城市中有百貨商場、複式公寓和普通住宅，各種不同型態的內存複合體向GPU供給數據。金正浩明確預測，當前是HBM的時代，但十年後，NAND快閃記憶體和HBF的市場需求將超越HBM。

他點名正在開發HBF的公司包括SK海力士、閃迪、三星電子及日本的鎧俠，其中鎧俠市值一度超越豐田汽車，成為日本股市第一。除此之外，金正浩還提出更為前瞻的設想——HBS（High Bandwidth SRAM）。SRAM比DRAM快約1000倍，但密度低、成本高。他的構想是將整片12吋晶圓全部製成SRAM，再垂直堆疊12至16層，將容量從100GB擴展到1600GB。他形容未來終極AI晶片的形態將是一棟「100層3D大樓」，HBM、HBF、HBS各自構成多層建築，GPU放在頂層負責散熱。然而，這條路線最大的挑戰不在於運算，而是供電與散熱，電力供應網絡的設計將成為企業間真正的核心競爭力。

**定製HBM時代：供需角色逆轉**

金正浩也分析了HBM4將帶來的供需結構變化。過去，內存是標準化產品，廠商先生產再讓客戶選購，買家主導價格，庫存風險由內存廠商承擔。但從HBM4開始，由於需要根據NVIDIA、Google、AMD等客戶的加速器架構量身設計，內存廠商必須在研發前就取得客戶的數量承諾，才會啟動開發。 「AI企業太需要高性能HBM了，所以他們排隊來。供應方開始決定價格，這是範式的轉變。」金正浩指出，未來HBM晶片內將可能集成通訊功能，使HBM之間能相互溝通，形成類似聯盟的結構，進一步提升內存廠商的系統性地位。 **三星、SK海力士的獨特優勢**

金正浩強調，全球目前能同時量產DRAM（HBM）和NAND快閃記憶體（HBF）的公司，只有三星電子和SK海力士。閃迪和鎧俠雖然股價表現亮眼，卻只能做HBF，無法生產HBM。他認為，三星和SK海力士擁有引領未來最強大的工具。金正浩時常與兩家公司高層交流，觀察到「他們的眼神越來越亮了」。但他也提醒，來自美光、閃迪等競爭者的壓力真實存在。 **AI PC與AI手機：內存決定價格**

金正浩將內存需求的敘事延伸至終端設備。他預測，未來的AI PC若要真正實現個人AI運算，所需內存規模將使一台PC的價格達到1000萬韓元，內存價格將直接決定PC價格。而AI智慧型手機售價約300萬至500萬韓元，其中200萬至300萬韓元將是內存的價格。他認為，AI基礎設施和AI模型的持續進化，將需要越來越多的內存，AI PC與AI手機是這個趨勢的另一條主線。 **Agentic AI與Physical AI：內存需求暴增千倍**

金正浩對AI演進方向提出更長遠的判斷。他認為，隨著Agentic AI（智能體AI）和Physical AI（具身/物理AI）時代到來，內存使用量將比現在高出約1000倍。AI代理24小時運作，不像人類需要休息，工作量暴增，內存需求自然爆炸性成長。屆時將不再是HBM，而是需要「超級HBM」的時代。 **研究之路：50年積累與「運氣」**

回顧自己的學術生涯，金正浩以「運氣」形容這一路的發展。他於1993年取得博士學位，研究飛秒級超快電信號測量，1994年加入三星電子內存事業部，1996年返回KAIST，此後持續深耕內存與HBM基礎研究約10年。2015年，他第一次在校內會議上聽到「深度學習」這個詞，隨即意識到AI演算法與HBM架構背後使用的是同一套數學——線性代數和矩陣運算。他笑說，當初做HBM時，原本設想是用在電視機上讓畫面更生動，完全沒想到會成為AI時代的基礎設施，這或許就是運氣的體現。