AI 摘要
- TrendAI 宣布整合 NVIDIA Safety Platform 以提供自主 AI 的多層次安全防護。
- 防護機制結合晶片硬體架構隔離與威脅情報，防範提示詞注入與越獄攻擊。
資安廠商 TrendAI 宣布正式支援 NVIDIA Safety Platform。該平台為 NVIDIA 針對企業大規模運行自主 AI（Agentic AI）所設計的全堆疊基礎架構。隨著企業開始將具備自主決策與自我演進能力的 AI 導入生產環境，雙方提出多層防護理念，強調單一控制點無法完全保障 AI 安全，必須在底層硬體、執行框架至資料存取建立全面性安全機制。
自主 AI 的安全挑戰與架構弱點
自主 AI 系統通常由三個關鍵部分構成：負責邏輯推理的模型、負責調度與協調的執行框架，以及 AI 獲准存取的工具和資料庫。這些元件讓 AI 具備持有系統憑證、跨工作階段記憶上下文資訊的能力，並能在缺乏人類即時介入的情況下直接操作生產環境系統。
當企業從試驗性質的概念驗證（PoC）走向大規模部署，如何防止模型遭到惡意操控、確保非人類身分的存取權限受到嚴格監管，已成為自主 AI 能否合規上線的核心關鍵。
軟硬體整合防護架構
NVIDIA Safety Platform 透過將權限控制下沉至底層基礎架構來落實防護。根據 NVIDIA 資料，系統運用 NVIDIA BlueField-4 DPU 與 NVIDIA DOCA 軟體架構，在晶片層級提供與主機作業系統完全隔離的安全防護；此外，透過 OpenShell 在 AI 執行環境外圍強制套用安全政策，以防止惡意提示詞繞過管控。TrendAI 則於此架構上提供威脅情報分析、行為可視性，以及威脅偵測與回應（XDR）能力。
TrendAI 首席平台暨業務長兼 TrendAI 負責人金敬秀（Rachel Jin）表示，自主 AI 帶來重大的技術轉變，安全性不能僅存在於單一層面，而必須涵蓋模型、框架及所有串接的資料來源。NVIDIA 負責界定 AI 執行的硬體邊界，TrendAI 則提供威脅情報與監控能力，協助企業設定安全防線並掌握內部動態。
TrendAI Vision One 支援防護範疇
透過 TrendAI Vision One 平台，TrendAI 將資安監控能力整合至 NVIDIA 的 AI 基礎架構中，主要涵蓋四個防護層面：
- 模型即時防護：即時檢驗輸入提示詞與輸出內容，防範提示詞注入（Prompt Injection）與越獄攻擊（Jailbreak），並在機敏資料輸出前進行自動遮蔽。
- 執行框架與工具治理：控管 AI 能存取的外部工具與 MCP 伺服器，記錄並分析每次工具調用（Tool Calls）與技能執行時的實際行為。
- 資料與非人類身分控管：識別並分類供 AI 存取的敏感資料，限制不合規的資料存取，同時防範過度授權的非人類身分（Non-human Identities）帶來的資安漏洞。
- 硬體根植式偵測與回應：結合 NVIDIA BlueField DPU 與 DOCA 的遙測數據，即使主機作業系統遭入侵，偵測機制依然維持可信運作，並透過端點、網路與身分資料的關聯分析，防範 AI 遭到劫持後的橫向移動攻擊。
Reference Link : techbang.com
