IT之家模型更新

Acrab 發佈邊緣 AI 終端 SoC GΞLIX 1,支持 100B 模型本地運行

2026年7月23日 09:05
Acrab 發佈邊緣 AI 終端 SoC GΞLIX 1,支持 100B 模型本地運行

重點摘要

首頁 > 智能時代>人工智能 Acrab 發佈邊緣 AI 終端 SoC GΞLIX 1,支持 100B 模型本地運行 2026/7/23 9:05:36 來源:IT之家 作者:溯波(實習) 責編:溯波 評論: IT之家 7 月 23 日消息,初創企業 Acrab 昨日正式發佈了其首款芯片:面向邊緣 AI 終端設備的 GΞLIX 1 SoC。

站內 AI 整理稿

Acrab 發佈邊緣 AI 終端 SoC GΞLIX 1,支持 100B 模型本地運行

2026 年 7 月 22 日,初創企業 Acrab 正式發佈了其首款自研芯片——面向邊緣 AI 終端設備的 GΞLIX 1 SoC。該芯片採用 5nm 先進製程,最大亮點在於支持本地運行高達 100B 參數規模的 AI 大模型,為邊緣計算場景帶來了過去僅能在雲端實現的算力水準。GΞLIX 1 採用異構計算設計,集成多種功能單元以匹配不同工作負載。芯片搭載 20 核心 Arm 架構 CPU,可提供強勁的通用處理能力;內建算力達 3 TFLOPS 的 GPU,能夠高效處理圖形渲染與並行計算任務。多樣化的計算單元使其在應對複雜混合場景時更加靈活。

在 AI 推理方面,GΞLIX 1 配備了專用 NPU(神經處理單元),整體 AI 算力高達 650 TOPS。這一數值意味著邊緣終端可以直接運行大規模神經網絡模型,實時完成推理任務,無需依賴雲端,從而顯著降低延遲並增強數據私密性。為了解決大模型運行時頻繁的數據搬運瓶頸,GΞLIX 1 在緩存與內存子系統上進行了精心設計。其內建 8 MB 的大型 L1 緩存,能有效減少核心訪問數據的等待時間;共享 L2 緩存帶寬達到 768 GB/s,確保多個計算單元之間的數據高速流轉。此外,GΞLIX 1 支持 256-bit 位寬的 LPDDR5X 共享內存,速率高達 8533 T/s。

這樣的帶寬配置為大模型的參數和中間激活值提供了充足吞吐,避免運算單元因數據匱乏而空閒,進一步發揮整體性能。針對大語言模型中最核心的注意力(Attention)機制,Acrab 在 GΞLIX 1 中通過矢量硬件進行了專項加速。同時,芯片深度優化了預填充(Prefill)階段,有效壓縮了首 Token 的生成時間,增強了用戶交互的即時感。實際性能測試顯示,在配備 40k KV 緩存和 10k Token 輸入的 Gemma 26B A4B 模型配置下,GΞLIX 1 可實現 1416.8 Token/s 的預填充速率。這一成績是蘋果 M4 Pro Mac Mini 的 7.

5 倍,充分展現了專用邊緣 AI 芯片在特定負載下的效率優勢。硬件之外,Acrab 同步為 GΞLIX 1 提供了完善的軟件堆棧,支持主流深度學習框架與模型格式,方便開發者快速遷移和部署。公司還推出了智能體參考設計,幫助合作夥伴降低終端產品的研發門檻,縮短上市時間。基於 GΞLIX 1,Acrab 打造了第一方終端設備「Agent Box」,直接向市場展示邊緣 AI 方案的完整落地能力。該設備可適用於智能家居、機器人、工業視覺、智慧零售等場景,進一步擴展了芯片的應用邊界。GΞLIX 1 的問世正值邊緣 AI 需求爆發的關鍵節點。

隨著大語言模型參數量持續攀升,業界迫切需要能在終端側高效運行大模型的專用硬件。Acrab 憑藉 100B 參數支持與 650 TOPS 算力,為邊緣端賦予了前所未有的智能化潛力。對比當前市場上的通用芯片方案,GΞLIX 1 在預填充性能上大幅領先,這得益於其針對推理工作負載的專用架構設計。未來,Acrab 計劃進一步拓展產品線,並攜手合作夥伴推動邊緣 AI 技術的規模化落地。總體來看,GΞLIX 1 的發佈標誌著初創公司在高性能邊緣 AI 芯片領域的一次重要突破。5nm 製程、異構異構架構、大容量緩存與高帶寬內存的組合,使其在百億級模型本地運行上展現出極強競爭力。

隨著軟件生態與參考設計的持續完善,GΞLIX 1 有望在機器人、無人系統、智能攝像頭等終端設備中獲得廣泛採用,加速 AI 從雲端向邊緣遷移的進程。

Related

相關文章

拆解“AI辦公入口戰”底層:怎麼做才能成為最終贏家?

字節、阿里、騰訊等大廠正透過組織調整與產品整合,全力爭奪AI辦公入口,關鍵在於模型、場景、生態與商業體系的全面競爭。這場戰爭的核心是透過AI產品實現Token經濟的商業閉環,並以「效果」為標準,透過自有體系與外部生態滿足企業用戶的真實需求。最終贏家需兼顧模型能力、場景積累與生態建設,才能在AI生產力時代站穩腳步。

1 小時前

千人聯機世界模型“RhOS-World: Khora”正式發佈

RhOS.ai與Ophilus.AI共同發布了千人聯機世界模型「RhOS-World: Khora」,該模型能讓多達1024個智能體在共享的3D空間中即時互動,且無需傳統物理引擎。其核心技術「STBoard(時空黑板)」架構,透過統一的物理狀態管理,解決了多視角一致性的難題,並大幅降低了擴展智能體數量的運算成本。

1 小時前
Hugging Face Blog模型更新

TutorMoments:AI 家教何時該出手,何時該放手?

今日我們推出 TutorMoments 預覽版,這是一個評估框架,旨在衡量尖端大型語言模型能否掌握教育中最難的平衡:何時介入協助學生,何時退後讓學生自行努力。TutorMoments 基於真實的一對一數學輔導課程,透過重播方式進行評估。經驗豐富的數學教師會檢視從美國收集的對話記錄。

2 小時前