Home Artificial Intelligence AI Platforms & Software Ramp Router推出:自動挑選AI模型,企業推論成本平均降低40%

Ramp Router推出:自動挑選AI模型,企業推論成本平均降低40%

0
0

美國企業支出管理平台Ramp於2026年8月19日推出Ramp Router,讓企業透過單一API使用多家業者提供的AI模型,並依據不同工作的效能、品質與成本需求,自動選擇合適模型處理請求。Ramp表示,已使用Router的客戶平均可降低40%的AI推論成本。

以品質標準為前提,自動選擇較低成本模型

Ramp Router的運作方式,是由開發者先設定所需的品質標準,再由系統從符合要求的模型中,選擇成本較低者處理請求。若原本使用的AI服務發生故障,Router也能自動切換至其他供應商,以提升服務持續性。

除了模型路由,Ramp表示Router還整合超過100項最佳化措施,涵蓋模型選擇、快取、壓縮及請求處理等環節,目標是在維持相同產出的前提下降低AI推論成本。

支援多家模型供應商,Google Gemini將加入

目前Ramp Router支援OpenAI、Anthropic及SpaceXAI的模型,也支援Nvidia、Kimi、DeepSeek、GLM與Qwen等開放模型。Ramp表示,後續還將加入Google Gemini。

為持續比較不同模型的效能與成本,Ramp也透過自家的Ramp SWE-Bench,使用實際軟體開發任務進行測試,並依據測試結果調整Router的模型選擇方式。

企業AI支出快速成長,成本管理成為新需求

Ramp成立於2019年,主要提供企業信用卡、費用管理及帳款支付等企業支出管理服務,目前服務超過7萬家企業。

隨著AI逐漸成為企業快速增加的支出項目,Ramp AI Index顯示,企業AI支出自2025年6月以來已成長20.7倍。由於不同AI模型在價格與能力上存在差異,企業也更難掌握及控制整體AI成本,成為Ramp推出Router的背景之一。

由內部系統轉為對外服務

Ramp Router原本是Ramp在3年前為控制自家AI支出而開發的內部系統。Ramp表示,這套系統能在維持相同產出的情況下降低推論成本,因此決定將其對外提供。

在服務方案方面,Router的路由服務將免費提供至2026年底,企業只需支付實際使用AI模型所產生的Token費用。至於不同模型的實際成本、可用性及效能差異,仍取決於企業所選用的模型與工作負載。

Reference Link : ithome.com.tw

NO COMMENTS