Liquid AI 發表 LFM2.5-24B-A2B 開源推論模型 助企業打造本地 AI 工作流程

BlueSky

AI 摘要

  • Liquid AI 推出開源推論模型 LFM2.5-24B-A2B,具備 240 億總參數且推論時僅啟動 24.5 億參數,上下文視窗達 131,072 Token。
  • 在基準測試中,該模型於 LiveClaw 與 AutomationBench 領先 Qwen3.6-35B-A3B,並支援 Apple M5 Max、AMD 及 NVIDIA B300 等硬體架構。
  • 年營收超過 1000 萬美元的企業需取得單獨商業授權,且串接外部工具時需防範隱私外洩風險。

AI 新創團隊 Liquid AI 本週三正式發表全新開源推論模型 LFM2.5-24B-A2B,專為在筆記型電腦及其他支援硬體上執行 AI 代理所設計,旨在協助企業與開發者建立高隱私度的本地 AI 工作流程。這款新模型讓企業將數據輸入與輸出完整保留在內部硬體中,無須仰賴雲端伺服器,有效解決敏感資料外流的資安疑慮。

輕量高效架構:240 億參數僅啟動 24.5 億

LFM2.5-24B-A2B 擁有 240 億個總參數,但核心機制在處理每個 Token 時僅啟動約 24.5 億個參數。這種稀疏啟動設計能大幅降低生成回應所需的運算量與記憶體需求,記憶體負擔甚至低於傳統 20 億參數模型。該模型的推出進一步補齊了 LFM2.5 系列模型家族,該家族參數規模涵蓋 2.3 億至 240 億。

目前 Liquid AI 已在 Hugging Face 平台上釋出 LFM2.5 基礎版與後續訓練版本,供全球開發者免費下載、客製化與部署。在模型規格方面,上下文視窗(Context Window)從先前的 32,768 個 Token 大幅擴展至 131,072 個 Token,詞彙表亦擴展至 128,000 個 Token,針對非拉丁語系的處理進行深度優化。

訓練規模翻倍並整合代理框架強化學習

在預訓練階段,LFM2.5-24B-A2B 的訓練資料量從約 17 兆 Token 提升至 33 兆 Token,特別針對推論邏輯、數學、編碼、指令遵循及多語言文本進行額外訓練。在最終訓練階段,更整合了 OpenClaw、Hermes Agent、Pi 以及 OpenCode 等代理框架的強化學習(RL)。此模型在產出最終解答前會先生成明確的推論步驟,雖會增加 Token 生成量,但大幅提升了多步驟複雜任務的準確率。

基準測試對比:與 Qwen3.6-35B-A3B 實測差異

根據評測資料,Liquid AI 在多項標準基準測試中將 LFM2.5-24B-A2B 與通義千問的 Qwen3.6-35B-A3B 進行了對比:

基準測試項目LFM2.5-24B-A2B 得分Qwen3.6-35B-A3B 得分
LiveClaw48.0938.19
AutomationBench27.698.72
SWE-Bench Verified51.0066.20

跨晶片硬體效能與軟體生態支援

在端點與伺服器硬體運作表現上,LFM2.5-24B-A2B 展現了極高的推論速度:

  • Apple M5 Max 晶片:生成速度達每秒 184 個 Token。
  • AMD Ryzen AI Max+ 395 處理器:生成速度達每秒 114 個 Token。
  • 單一 NVIDIA B300 GPU:在多併發請求下,總輸出吞吐量突破每秒 21,000 個 Token。

軟體生態系統方面,該模型完整相容於 llama.cpp、MLX、vLLM、SGLang 以及 ONNX 等主流部署框架,方便工程師快速整合至現有環境。

企業部署考量與授權規範

本地執行 AI 代理雖然能加速研究、編碼與文件處理的自動化,但 Liquid AI 提醒,硬體容量仍是本機推論的主要限制,團隊上線前需詳細評估目標裝置的記憶體占用與反應時間。同時,本地運作不代表整體流程絕對安全,若 AI 代理串接外部工具仍有外洩風險,企業應實施存取限制與憑證保護。

商業授權方面,Liquid AI 明確規定,年營收超過 1000 萬美元的企業若要進行商業運營,必須另外取得專門的商業授權,不可直接將開源模型權重無限制商用。

Reference Link : tw.stock.yahoo.com

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles