IBM 與 AI 新創 Together AI 於 2026 年 8 月 11 日宣布，雙方已簽署一項總值 2.4 億美元的多年期協議，將在 IBM Cloud 上建置大規模人工智慧運算叢集。這套基礎設施將採用 NVIDIA 系統，主要為開源 AI 模型提供推論服務。
隨著企業尋求降低 AI 應用成本，並開始關注 Anthropic、OpenAI 與 Meta 等業者模型近期涉及的資安事件，開源 AI 模型的採用程度持續提升。對雲端服務商與 AI 基礎設施供應商而言，推論需求也正成為擴充運算容量的重要推力。
初期配置約 2,000 顆 Blackwell 300 晶片
根據雙方公布的規畫，這座建置於 IBM Cloud 的 AI 運算叢集將採用 NVIDIA HGX B300 系統。該系統整合 NVIDIA 新一代 Blackwell 處理器，並搭配 NVIDIA Spectrum-X Ethernet 網路設備。
NVIDIA 曾表示，Blackwell 晶片針對 AI 推論工作負載進行最佳化。Together AI 首席營收長（Chief Revenue Officer，CRO）Kai Mak 接受路透社採訪時表示，初期叢集預計配置約 2,000 顆 NVIDIA Blackwell 300 晶片，並設置於美國。
Mak 預期，在叢集正式上線前至少 2 至 3 個月，這些運算資源就會被預訂一空。他表示，系統在正式投入服務前，便可能收到全部訂單。
推論成為 AI 基礎設施需求主要來源
AI 推論是指執行已完成訓練的模型，並根據輸入內容產生回應的過程。隨著生成式 AI 服務逐步導入企業工作流程，推論已成為 AI 運算容量需求的重要驅動因素之一。
這項趨勢促使雲端服務供應商與晶片業者投入數十億美元，擴大資料中心、網路設備及加速器等 AI 基礎設施。IBM 與 Together AI 的合作，則把重點放在以雲端叢集形式提供開源模型的推論能力。
Together AI 聚焦開源模型工作負載
總部位於舊金山的 Together AI，主要提供 AI 平台，協助企業訓練及執行 DeepSeek、MiniMax 與 Kimi 等開源模型。該公司主張，企業可透過其平台，以低於封閉式 AI 系統的成本處理相關 AI 工作負載。
Together AI 於 2026 年 7 月完成一輪融資後，最新估值達 83 億美元。此次與 IBM 簽署多年期協議，將進一步擴充其可提供的運算資源，並以 NVIDIA Blackwell 系統支援開源模型推論需求。
協議影響仍取決於叢集部署與需求落地
這項合作顯示，AI 基礎設施市場的競爭焦點正從模型訓練延伸至大規模推論服務。對企業客戶而言，集中式雲端叢集可能有助於取得開源模型所需的運算資源；不過，實際效益仍取決於叢集建置進度、正式上線時間，以及企業對相關模型與服務的持續需求。
目前已確認的規畫包括 2.4 億美元多年期協議、IBM Cloud 部署環境、NVIDIA HGX B300 系統、Spectrum-X Ethernet 網路設備，以及初期約 2,000 顆 Blackwell 300 晶片的配置。雙方尚未在提供的資訊中說明叢集確切上線日期或完整服務定價。
