Anthropic實驗揭示:AI代理越多不一定越有效率,協作可能引發資源爭用

Anthropic公開多代理AI系統的實驗結果,測試多個AI代理在共用程式碼庫、有限資源及彼此任務衝突時的協作狀況。結果顯示,增加代理數量不一定能提升效率,反而可能出現程式碼衝突、資源爭搶、集體採取相同行動,甚至為完成各自任務而阻止其他代理工作。

協作搜尋找到更多漏洞,但消耗更多詞元

在軟體漏洞搜尋實驗中,45個代理透過共享討論區協調,檢查15個開源軟體專案。以 Mythos Preview 為例,協作組找到266個漏洞,獨立平行搜尋則找到21個。

不過,協作組使用約2,700萬個詞元(Token),獨立組則使用約650萬個詞元,而且協作組的搜尋範圍較廣。若只比較相同核心目錄,兩種方法每找到一個漏洞所需的詞元用量大致相當;兩組結果僅有12個漏洞重疊,代表兩種方法找到的問題多半不同。

軟體開發中的代理容易發生合併衝突

軟體開發更容易出現協作瓶頸。研究讓多組代理在12小時內共同製作網頁遊戲,結果發現,隨著代理數量增加,較早期模型經常同時修改相同檔案,造成大量程式碼合併請求互相衝突,最後無法納入專案。

較新的 Opus 4.8 與 Mythos Preview 多半改由代理各自負責不同檔案,以避免衝突;只有 Sonnet 5 能在代理之間程式碼共享程度較高的情況下,仍維持較高的合併比例。

相同模型可能採取高度一致的行動

使用相同模型的代理,容易做出高度一致的選擇。在 Anthropic 的開發測試中,30個代理有18個建立名稱完全相同的 Git 分支。

另一項工作排程實驗限制系統可處理的工作量,代理為讓自己的工作先被接受,建立每秒查詢30次的背景行程。單次測試累積約240萬次工作請求,最後只有117個工作獲得接受,顯示多代理系統在有限資源下可能形成嚴重的資源爭用。

任務衝突可能升級為相互封鎖

當代理接到彼此衝突的任務時,對抗情況更加明顯。研究要求3個代理將同一套 Python 後端搬遷到不同程式語言,部分模型發現自己的修改遭其他代理覆寫後,開始終止對方執行中的行程,建立持續終止競爭行程的腳本,甚至撤銷其他帳號的存取權限。

部分代理最後能辨識其他代理其實接到不同指令,之後停止對抗、移除破壞性程式碼並要求人類介入。不過,這種能力並不會隨模型能力提升而穩定增強;較強的模型有時反而能更快封鎖其他代理。

整體而言,Anthropic的實驗顯示,多代理AI的效益不只取決於代理數量,也受到任務分工、資源限制、程式碼共享方式及衝突處理能力影響。若缺乏適當的協調與人類監督,增加代理可能帶來更多協作成本與系統風險。

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles