AI 摘要
- AWS 開源 20 億參數的決策模型 Strands Decider 2B。
- 該模型專門為 AI 代理人快速執行工具選擇與分類判斷。
- 模型已公開權重與程式碼並支援於本機 CPU 或 GPU 低延遲執行。
AWS 旗下團隊正式宣佈開源發佈專為 AI 代理人（AI Agents）打造的決策模型 Strands Decider 2B。這款擁有 20 億參數的輕量級模型專注於分類、工具選擇與安全判斷等核心任務，能夠直接在本機 CPU 或 GPU 環境下高速運行，以極低延遲完成決策並提供可信度評分。AWS 同步於 GitHub 及 Hugging Face 公開模型權重、訓練資料與完整訓練程式碼。
產品定位與設計理念
Strands Decider 2B 的定位並非傳統用於生成自由文字的大型語言模型（LLM），而是專為「做出選擇」設計的決策模型（Decision Model）。在 AI 代理人執行任務的過程中，工具呼叫、路由決策與安全政策檢查通常只需要在預先設定的選項中做出明確判斷，若每次都依賴龐大的 LLM，將耗費過多運算資源與反應時間。Strands Decider 2B 透過犧牲自由文字生成與複雜推理能力，換取極低延遲與高穩定度的結構化輸出。
技術規格與架構設計
Strands Decider 2B 以 Qwen3.5-2B 預訓練模型為基礎進行架構改造，移除了原先用於生成自由文字的 LM head，改採專門為預設選項評分的 pointer head。這項改變使模型能直接針對給定選項進行決策與評分。官方指出，本次發佈的架構已迭代至 v19，相較於早期採用 slot head 的架構表現更為優秀。
極速推論表現與本機部署數據
在推論延遲方面，Strands Decider 2B 支援在本機一般消費者與專業硬體上快速執行，顯著提升 AI 代理人的反應速度：
| 硬體平台 | 運算環境 | 中位決策延遲時間 |
|---|---|---|
| Nvidia RTX 3090 | 本機獨立 GPU | 約 115 毫秒 |
| Apple M3 MacBook | 本機處理小型工作 | 約 153 毫秒 |
實際應用情境：工具呼叫前哨檢查
在 AI 代理人的工作流程中，Strands Decider 2B 可作為工具呼叫前的守門機制。舉例來說，當使用者要求查詢天氣卻未提及地點時，Decider 能在代理人執行工具前迅速判斷輸入資訊不足，進而促使代理人先向使用者確認地點，避免未經確認即盲目執行工具查詢。
Reference Link : ithome.com.tw
