IT之家生成式AI

讓 32GB 內存能跑 GPT-OSS-120B:Nextorage 將推外接式 AI 加速硬件

2026年7月29日 16:47
讓 32GB 內存能跑 GPT-OSS-120B:Nextorage 將推外接式 AI 加速硬件

重點摘要

群聯(Phison)旗下日本儲存模組品牌 Nextorage 近日宣布,將推出一款名稱暫定為「aiDAPTIV Station」的外接式硬體裝置,目標是讓僅配備 32GB 記憶體的 AI 筆記型電腦,也能順利運行像 OpenAI GPT-OSS-120B 這類參數量高達 120B 的大型語言模型。這項產品預計在今年內率先於日本市場上市,並同步規劃提供預先建構的軟體套件方案,以降低使用者導入門檻。 隨著生成式 AI 應用快速普及,大型語言模型對系統記憶體的需求也越來越高。

站內 AI 整理稿

群聯(Phison)旗下日本儲存模組品牌 Nextorage 近日宣布,將推出一款名稱暫定為「aiDAPTIV Station」的外接式硬體裝置,目標是讓僅配備 32GB 記憶體的 AI 筆記型電腦,也能順利運行像 OpenAI GPT-OSS-120B 這類參數量高達 120B 的大型語言模型。這項產品預計在今年內率先於日本市場上市,並同步規劃提供預先建構的軟體套件方案,以降低使用者導入門檻。 隨著生成式 AI 應用快速普及,大型語言模型對系統記憶體的需求也越來越高。一般消費級筆電的記憶體容量多在 16GB 至 32GB 之間,若要執行參數量超過百億的模型,往往會因記憶體不足而無法載入或運作遲緩。Nextorage 此次推出的 aiDAPTIV Station,正是為了解決這項痛點而生,讓記憶體規格較低的裝置也能具備運行大型 AI 模型的能力。 從產品名稱不難看出,aiDAPTIV Station 採用了群聯原廠的 aiDAPTIV 技術架構。該技術的核心概念,是將本機的 DRAM 與外接的高耐久 NAND 快閃儲存介質進行動態資源調配,讓系統能夠在實際運作時,把部分記憶體負載「卸載」到外接的快閃裝置上,從而有效擴充可用的記憶體空間。這項做法類似於將固態硬碟「記憶體化」,讓儲存裝置扮演虛擬記憶體的角色,但延遲與頻寬表現經過最佳化,以滿足 AI 推論或訓練時的需求。 在外觀設計上,aiDAPTIV Station 採用便攜式設計,並配備 USB-C 傳輸介面,能夠輕鬆連接支援 Windows 作業系統以及 Linux 發行版 Ubuntu 的筆電或桌機。對於經常需要攜帶裝置移動、卻又希望能在本地端執行大型模型的開發者或研究人員來說,這款硬體提供了一個相對輕量的解決方案,無需為了升級記憶體而更換整台電腦。 值得注意的是,這並非市場上第一款採用群聯 aiDAPTIV 技術的外接式產品。先前 OWC 也曾推出名為 Stack AI 的類似裝置,同樣是將群聯的記憶體化快閃方案整合至外接盒中。Nextorage 作為群聯旗下的記憶體模組品牌,在快閃儲存領域擁有深厚技術積累,此次推出 aiDAPTIV Station 可視為該技術在消費級市場的進一步擴展,也反映出群聯對於 AI 邊緣運算裝置需求的重視。 對於大型語言模型而言,參數量愈大,所需的記憶體頻寬與容量就愈高。以 GPT-OSS-120B 為例,其模型權重本身就需要約 60GB 以上的記憶體空間才能完整載入,若再加上運算過程中的暫存資料,傳統 32GB 筆電確實難以負擔。透過 aiDAPTIV Station 的外接擴充機制,系統可以利用高速 NAND 快閃作為第二層記憶體,雖然仍無法完全取代 DRAM 的效能,但在實際應用場景中,已能讓模型順利運行,並在推論速度上取得可接受的平衡。 Nextorage 表示,這款產品將鎖定 AI 開發者、內容創作者以及需要在地端執行大型模型的企業用戶。目標是今年內在日本市場推出,同時也正在規劃完整的軟體生態系統,包含預先配置好的驅動程式、模型載入工具以及效能調校建議,讓使用者不必自行調整複雜的參數,即可快速上手。 從產業趨勢來看,將快閃記憶體作為記憶體擴充方案的做法,近年來已在伺服器與資料中心領域獲得一定關注;而 Nextorage 將其推向消費級外接裝置,則進一步降低了 AI 本地化運算的硬體門檻。對於許多預算有限、或不便升級內部記憶體的使用者而言,這類產品提供了一條實惠且靈活的捷徑。 目前 Nextorage 尚未公布 aiDAPTIV Station 的具體售價與詳細規格,但隨著正式發表時間逐漸逼近,市場預期相關資訊將在未來幾個月內陸續揭露。可以預見的是,當更多硬體廠商投入類似方案的開發,AI 模型的本地部署將不再只是高階工作站或雲端伺服器的專利,一般消費級裝置也能逐步參與這場運算革命。

Related

相關文章

比亞迪AI團隊首次曝光,哈工大機器人基因亮眼,大模型首發即SOTA

比亞迪AI團隊首次曝光,一篇自動駕駛學術論文讓外界看到截然不同的技術實力。比亞迪汽車新技術研究院(原規劃院)近日發表HyWorldVLA模型,在自動駕駛公開基準NAVSIM v1上取得SOTA成績,PDMS達到90.59。這也是比亞迪首次公開多模態基礎模型的研究成果,而且論文完全由內部團隊獨立完成,沒有外部學研單位合作署名,凸顯其自研能力。 過去外界對比亞迪智能化的印象多集中在「天神之眼」、供應鏈整合與規模化量產,對其代碼級自研的AI技術了解有限,甚至傳出智能發表會簡報由供應商代勞的說法。

剛剛

Claude最大規模MCP升級,月下載狂飆破4億

Anthropic 於 27 日宣布推出代號 MCP 2026-07-28 的協定大改版,官方宣稱這是 MCP 自發布以來規模最大的一次升級。新版將核心架構從有狀態改為無狀態,同時把擴充功能提升為一等公民,並補上企業級安全認證與管理機制,試圖為 AI 智慧體與外部系統的連線訂出業界標準。

剛剛