螞蟻百靈開源 Ling-3.0-tiny 模型，支持英偉達 DGX Spark、蘋果 Mac mini 部署

作者：潞源 責編：潞源 評論： 8 月 11 日消息，螞蟻百靈今天在 Hugging Face 平臺開源 Ling-3.0-tiny 模型，該模型為輕量級混合推理 MoE 架構，總參數 7.9B，每 Token 激活 1.3B 參數。官方提供 BF16、FP8 和 INT4 權重版本，適配不同平臺的部署需求。據介紹，Ling-3.0-tiny 主打低成本推理，採用高效混合線性架構，將 KDA（Kimi Delta Attention）和 MLA（Multi-Head Latent Attention，多頭潛在注意力）按照 3:1 比例交替堆疊。

採用包含 128 個路由專家（routed experts）的稀疏 MoE 前饋網絡（FFN），在上下文處理能力和計算成本間取得平衡。注意到，該模型支持快速響應模式和多步驟推理模式，專為本地部署設計，官方已在英偉達 DGX Spark、Apple Silicon MacBook 和 Mac mini 等電腦驗證。在 M4 Pro 的 MacBook 上可達到約 86-90 Token/s 的推理速度，8K 上下文長度下，峰值內存佔用約為 8.34 GiB。參考：inclusionAI/Ling-3.

0-tiny · Hugging Face廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，包含外鏈的文章均包含本聲明。投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：Ling3.0tiny，螞蟻百靈，開源模型，大模型AI 大模型周榜：阿里 qwen3.8-max 衝進綜合榜 Top 6，國產多模型表現亮眼螞蟻集團百靈開源 Ling-3.0-flash 模型：124B 總參數、5.1B 激活參數華為官宣昇騰 0 Day 支持螞蟻百靈 Ling-3.

0-flash 模型，全新算子編程框架 CANN PyPTO 首秀字節跳動 SeedRealtime 音視頻全雙工大模型發佈：支持邊看、邊聽、邊說，已上線豆包視頻能“邊播邊改”：京東開源自研 JoyAI-Video-Edit 模型，各項指標全球領先英偉達 Alpamayo 2 Super AI 開放商用：為自動駕駛汽車帶來 360° 感知、高級駕駛決策