Meta重啟開放模型策略,推出可本機運作的AI代理模型Muse Glimmer

Meta執行長祖克柏(Mark Zuckerberg)周一(8月10日)表示,去年成立的Meta超級智慧實驗室(Meta Superintelligence Labs)已逐步步上軌道,Meta將恢復發布部分開放模型。同日,Meta推出具備300億參數的本機AI代理模型Muse Glimmer,並以Apache 2.0授權釋出模型權重。

Meta重新採用開放權重路線

Meta過去透過開放權重的Llama系列建立開發者生態。然而,Meta去年成立超級智慧實驗室並重整AI部門後,率先推出的Muse系列並未延續這項作法。

今年4月問世的Muse Spark,以及後續推出的Muse Spark 1.1與Muse Code,均僅透過Meta AI或API提供,未公開模型權重,Meta當時也沒有說明原因。Muse Glimmer的發布,代表Meta在短暫轉向封閉模型後,重新回到開放權重策略。

祖克柏所描繪的AI願景,是讓每個人都擁有真正了解自己的AI助理,能夠24小時協助工作。這類助理可記住使用者的習慣與需求,協助安排生活、管理健康與財務、學習新技能,甚至共同創作或經營事業,而不只是回答問題。

祖克柏認為,這類AI不應只由少數企業或政府掌握,而應成為所有人都能使用及控制的工具。開放模型因此成為Meta實現這項願景的重要手段,讓個人與小型企業可以自行下載、修改及部署AI,避免最強大的模型只掌握在少數業者手中。

他也表示,最危險的情況不是人人都能使用強大AI,而是少數實驗室以安全為由將模型留在自己手中,最終發展出無法受到其他系統制衡的單一超級智慧。

Muse Glimmer主打本機AI代理能力

Muse Glimmer是針對個人AI助理情境打造的模型,可長時間在使用者的Mac或PC上運作,模型本身不必連接雲端即可執行任務。

其功能包括管理行程、撰寫訊息、整理檔案、呼叫外部工具及協助寫程式,並能同時理解文字、圖片、螢幕截圖、圖表與文件。當工具執行失敗時,Muse Glimmer還能判斷問題並重新嘗試,而不是直接停止。

量化後可在消費級硬體執行

Meta以規模更大的Muse Spark作為教師模型,透過知識蒸餾將其代理推理能力轉移至Muse Glimmer。

Muse Glimmer在完整精度下需要超過55GB記憶體;經過4位元量化後,所需記憶體可縮小至20GB以下,因此能在配備24GB或32GB記憶體的Mac上執行,也能在配備單張消費級GPU的PC上運作。

Muse Glimmer的模型權重目前已在Hugging Face開放下載。Meta表示,未來幾天也將支援Ollama、LM Studio、llama.cpp、MLX及ExecuTorch等工具。

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles