亞馬遜 AI 專案傳嚴重超支:Claude 單一測試案燒掉 180 萬美元

亞馬遜(Amazon)內部 AI 專案傳出嚴重超支。根據《金融時報》(Financial Times)7 月 30 日報導,亞馬遜多項原本看似例行的開發工作,在導入大型語言模型後出現遠超預期的成本,其中一項使用 Anthropic Claude Sonnet 的作者資料比對專案,最終支出高達 180 萬美元,較原定預算超出 860%。

報導指出,這項專案的目標是將作者資訊與亞馬遜網站上的商品列表進行配對,但專案最終未能上線。更受關注的是,相關成本異常並未立即被發現,而是在問題發生約五個月後才曝光。

單一專案支出達 180 萬美元

內部資料顯示,作者資料比對專案是目前揭露的最大宗超支案例。該專案採用 Claude Sonnet 處理資料與程式開發工作,原本被視為日常性質的任務,卻因長時間持續使用 AI 資源,累積出高額帳單。

除上述案例外,亞馬遜內部簡報也列出另外兩項成本增加的專案:

專案額外支出用途或狀況
作者資料比對約 180 萬美元將作者資訊與網站商品列表進行配對,專案未能上線
財務稽核工具約 54.1 萬美元與財務稽核工具相關的開發專案
物流配送系統約 13.4 萬美元目標是縮短物流配送時間

來源未提供上述專案的完整技術架構、實際 token 使用量或各項成本的細部分布,因此目前無法確認超支主要來自模型推理、重複執行、代理流程失控,或其他開發與部署因素。

亞馬遜:零星案例無法代表整體 AI 使用情況

面對外界對 AI 成本失控的關注,亞馬遜在內部簡報中表示,公司正透過實驗、學習與改進,持續最佳化 AI 的使用方式,其中也包括提升成本效率。

亞馬遜同時強調,若只挑選零星案例,並不能反映公司整體使用 AI 的情況。這項說法顯示,公司將相關事件視為 AI 導入過程中的個別問題,而非足以代表所有 AI 專案的普遍結果。

AI 代理讓傳統小錯誤變成高額支出

這些超支事件也凸顯企業導入 AI 代理與按 token 計費服務後所面臨的新風險。在傳統軟體開發中,某些重複執行、流程設計不佳或資源使用效率低落的錯誤,成本可能相對有限;但在大型語言模型環境下,若代理持續呼叫模型、反覆修正程式碼或執行未受限制的工作流程,相關支出可能快速累積。

當 AI 工具被授予較高的自主權,企業除了需要評估模型能力,也必須同步掌握執行次數、token 用量、權限範圍與中止條件。否則,即使單次操作的成本不高,長時間未被偵測的錯誤仍可能轉化為大額帳單。

亞馬遜收緊 AI 權限並建立支出控管

消息同時提到,亞馬遜今年稍早曾因 AI 程式碼機器人失誤,導致 AWS 出現多起服務中斷。公司後來改以限制 AI 代理權限來降低風險,原本用於鼓勵員工增加 AI 使用的內部排行榜,也因成本壓力而取消。

目前,亞馬遜工程團隊據悉正建立自動化防護機制,計畫將未來專案的 AI 支出直接納入部署流程管控。這類做法可能包括在部署前檢查預算、限制代理可執行的操作,以及在成本異常時自動停止工作流程;不過,來源並未提供完整機制與上線時間表。

整體而言,這些案例反映企業在擴大生成式 AI 應用時,挑戰已不只在於模型準確度與開發效率,也包括成本可預測性、權限管理及即時監控。對亞馬遜而言,如何在維持 AI 實驗速度的同時,避免代理式工作流程產生失控支出,將成為後續導入的重要管理課題。

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles