MiniMax M3.1 Flash 正式開源:總參數 428B、激活參數 23B,上線 72 小時處理 Token 超過 100 萬億

BlueSky

AI 摘要

  • MiniMax 於 10 月 23 日正式開源 MiniMax M3.1 Flash 模型權重。
  • MiniMax M3.1 Flash 總參數量為 428B,激活參數量為 23B。
  • 官方披露,上線 72 小時內真實用戶處理的 Token 量已超過 100 萬億。

MiniMax 於 10 月 23 日正式開源 MiniMax M3.1 Flash 模型權重。該模型總參數量為 428B,激活參數量為 23B,官方表示相較上一代 M3 模型能力全面提升。開發者可於 Hugging Face 與魔搭社區(ModelScope)取得模型權重。

產品定位與市場表現

根據官方披露,MiniMax M3.1 Flash 上線後 72 小時內,真實用戶處理的 Token 量已超過 100 萬億。此數據為官方公布之使用量,本文未能獨立驗證。

推理效率優化重點

為提升推理效率,MiniMax M3.1 Flash 引入以下多項優化:

  • 將前三個全注意力層替換為稀疏注意力。
  • 透過量化感知訓練(QAT),將路由 MoE 專家(共享專家除外)遷移至 W4A4 精度。
  • 將稀疏注意力索引器與主分支的量化設定,由 Q8KV8 調整為 Q8KV4。
  • 採用 Power-aware scheduling,精細分配計算卡功耗,提升硬件利用效率。

量化設定調整對照

模組調整前調整後
路由 MoE 專家(共享專家除外)未於來源中說明W4A4(透過 QAT 遷移)
稀疏注意力索引器與主分支Q8KV8Q8KV4

生態合作與跨平台適配

在生態建設方面,MiniMax 已與華為昇騰、平頭哥、崑崙芯、摩爾線程、壁仞、海光、沐曦、天數、NVIDIA、AMD 等芯片廠商合作,並與 Together AI、Fireworks、Nebius、Baseten、Modal、DigitalOcean 等推理與雲服務平臺合作,推動模型首日接入。此外,vLLM、SGLang、智源 FlagOS,以及 Hugging Face、魔搭社區也將共同推進模型適配,拓展其在不同芯片、雲平臺與開發環境中的應用。

編輯觀察

對開發者而言,MiniMax M3.1 Flash 的重點在於以較低的激活參數量運行大型模型,並透過精度與功耗調整提升硬件效率。不過,來源並未提供具體效能基準、售價或與競品的直接比較數據,後續仍需參考官方技術文件與第三方測試結果。

開源地址:

Hugging Face:https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash

魔搭社區:https://modelscope.cn/models/MiniMax/MiniMax-M3.1-Flash

Reference Link : news.aibase.com

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles