AI 摘要
- 6家科技巨頭簽署白宮超級智慧協議。
- 協議要求建立四層AI安全管控機制。
- 目前協議屬企業自願承諾。
白宮超級智慧協議由美國總統川普於9月29日與Google、OpenAI、Meta、Anthropic、xAI及Nvidia等6家AI與科技巨頭簽署，聚焦訓練與部署前沿AI模型的安全管控。協議要求參與企業建立四層安全機制，包括持續監控、內部安全團隊、獨立外部稽核，以及由董事會獨立委員會進行監督；目前協議屬企業自願承諾，不具法律強制力。
協議定位與參與企業
這項協議的正式名稱為《白宮超級智慧協議》（White House Accord on Super Intelligence），是在白宮宴請美國AI產業高層後完成簽署。會議討論主題包括AI發展、安全風險與政府監管方式。
除了6家簽署企業外，微軟執行長Satya Nadella、Palo Alto Networks執行長Nikesh Arora、Amazon創辦人Jeff Bezos、美光（Micron）執行長Sanjay Mehrotra、Palantir技術長Shyam Sankar、AMD執行長蘇姿丰與博通執行長Hock Tan也出席會議，但未於會後簽署協議。
四層AI安全管控機制
| 層級 | 安全機制 | 主要內容 |
|---|---|---|
| 第一層 | 持續監控 | 在模型訓練及部署期間監控模型能力與行為，特別關注網路、生物及化學安全風險，以及模型是否以非預期方式入侵或存取其他系統。 |
| 第二層 | 內部安全團隊 | 設置專責內部團隊，確認安全措施正常運作，並處理已發現的問題。 |
| 第三層 | 獨立外部稽核 | 引進第三方評估相關安全措施是否確實發揮作用。 |
| 第四層 | 董事會獨立委員會 | 由董事會設立獨立委員會，監督內外部稽核結果，並確保發現的問題獲得改善。 |
自願承諾與後續標準
白宮超級智慧協議目前不具法律強制力，川普將其形容為具有「道德上的約束力」。參與企業將定期召開會議，共同制定AI安全標準及最佳實務。
協議同時指出，隨著AI技術持續發展，這套安全管控與稽核機制未來可能進一步納入法律或監管制度。
Reference Link : ithome.com.tw
