AI 摘要
- 微軟發表安全戰略 Project Perception，主張企業應建立獨立於AI模型之外的動態資安架構。
- 微軟指出AI代理可能遭遇提示詞注入攻擊、產生模型幻覺，或因輸入資料改變而偏離任務。
- Project Perception 提出Know、Contain、Protect、Adapt四項持續性安全責任。
隨著企業加快部署AI代理（AI Agents），資安防護面臨新的挑戰。微軟（Microsoft）近日發表最新安全戰略 Project Perception，主張企業必須建立獨立於AI模型之外的動態資安架構，才能在部署速度與安全之間取得平衡。
事件背景：AI代理的不確定性
微軟身分與網路存取企業副總裁Nadim Abdo表示，AI代理並非具有惡意，但其行為具有不確定性。代理可能遭受提示詞注入攻擊（Prompt Injection）、產生模型幻覺（Hallucination），或在執行過程中因輸入資料改變而偏離原本任務。
Abdo指出，若代理繼承了員工的完整權限，一旦遭到綁架或誤判，以其效率及規模，對企業造成的破壞力恐難以估量。微軟執行長Satya Nadella則強調，企業必須將「智能的供應」（supply of intelligence）與權限徹底分離。
此外，微軟認為不能要求AI模型進行自我監督。資安防護機制必須建立在模型外部，並確保無法被模型繞過或篡改。
Project Perception 的核心原則
針對AI代理帶來的安全挑戰，微軟宣布擴展資安架構 Project Perception。該架構將與Microsoft Agent 365共享訊號、上下文及統一註冊表，目標是讓IT與資安團隊獲得一致的可視性與控制力。
其核心原則包括：將不可控的AI置於具隔離性的環境中運作，且任何行動皆需基於獨立的驗證證據。微軟並據此確立四項持續性安全責任：
- Know：了解企業內所有AI代理的存在、擁有者與執行任務。
- Contain：在代理行動前，精準設定其存取與權限邊界。
- Protect：保護AI代理調用工具、數據與執行階段的環境安全。
- Adapt：隨風險與行為變化，實時調整防護與授權層級。
多項技術升級
為落實此安全戰略，微軟同時宣布多項技術升級與防衛機制。
身分識別層面
微軟宣布將本地代理的發現能力擴展至60種，新增Claude Code、OpenAI Codex及GitHub Copilot等。同時，透過Microsoft Entra Agent ID為每一個代理賦予獨立的「第一級身分」（First-class identity），以區隔人類員工與AI代理的操作行為與責任。
零信任與最小權限
微軟表示將貫徹零信任（Zero Trust）原則：代理預設為零權限，僅在任務執行期間取得任務限定且具時效性的最少權限。關鍵決策仍需經過可驗證的人工簽核。
動態風險與漸進式處置
資安系統可實時計算代理的動態風險指數。當代理遭遇異常輸入或意圖偏離時，系統會採用漸進式處置，例如保留唯讀權限但封鎖寫入功能，而非一刀切關閉，以兼顧資安防衛與業務連續性。
大規模代理的自動化防禦
考慮到企業未來可能部署高達數十萬個代理，微軟在 Project Perception 中導入Playbooks機制。資安團隊制定政策後，由「守護者代理」（Guardian Agents）自動執行，使系統能以機器速度進行資安事件的即時調查與自動圍堵，期望防禦節奏能跟上AI運作的速度。
觀察與限制
整體而言，微軟的方向是將AI代理的權限管理、身分識別與監控置於模型之外，由獨立機制約束其行為。不過，來源資料中並未提供上述機制在實際大規模環境中的成效數據，相關效益仍有待企業部署後的實際驗證。
Reference Link : inews.hket.com
