隨著人工智慧（AI）技術日益成熟並廣泛應用於企業營運，資安防護面臨新的挑戰。根據麥肯錫公司（McKinsey）的「2025年全球AI調查報告」指出，目前有高達88%的組織已在至少一項業務功能中導入AI。然而，IBM的「2025年資料外洩成本報告」揭露，有13%的組織曾發生AI模型或應用程式遭入侵事件，其中97%的受害者正是缺乏適當的AI存取控制措施。
對於企業資安長（CISO）而言，當前挑戰雙重：一方面要建立能保護組織的防護機制，另一方面又不能阻礙AI帶來的創新效益。
建立 AI 治理框架 為安全創新奠基
要有效管理AI帶來的風險，首先需建立完善的治理框架。報導建議企業應指定一名具備跨部門協調能力及執法權力的專責人員，負責統籌全組織的AI監督工作。這名負責人須協調資安、隱私、法律與業務團隊。同時，企業應建立一個風險登記冊，追蹤AI帶來的效益與潛在威脅，並制定涵蓋AI可接受使用、資料處理及訓練需求的AI專屬政策。國家標準及技術研究所（NIST）的「AI風險管理框架」以及 ISO/IEC 42001 標準，皆提供一套經過驗證的結構供企業參考。此外，NIST Special Publication 800-221A 文件也提出實用指南，分為「治理」（涵蓋角色、基準、政策與溝通）與「管理」（包括風險識別、分析、優先排序、回應及監控）兩大核心功能，建議企業將AI治理與其整體策略緊密結合，才能讓高層重視並採取行動。
強化技術屏障 防範數據外洩與注入攻擊
技術層面的防護措施必須能應對內部AI部署特有的威脅。企業應在資料進入任何模型或代理程式（Agent）前進行分類，並透過資料外洩防護（DLP）措施來監控AI介面，防堵個人可識別資訊（PII）在提示（Prompt）與輸出結果中外洩。針對AI代理程式在工具與使用者之間形成的身份管理缺口，應採行零信任原則來管理其權限，僅授予執行任務所需的最低存取權限，並實施時間限制的授權，同時要求關鍵操作必須經過人工審核。為應對提示注入（Prompt Injection）這類主要的AI攻擊手段，企業需驗證並清理所有輸入內容，將系統提示與使用者提供的內容分離，並透過允許清單（Allowlists）限制代理程式的動作，搭配異常偵測來標記不尋常的指令序列。所有代理程式的行動與認證嘗試都應記錄，並透過資安資訊與事件管理（SIEM）系統進行關聯分析，建立異常行為觸發人工審核的升級路徑，避免損害擴大。
整合開發流程 持續監控確保合規
資安防護應涵蓋軟體開發生命週期（SDLC）及供應鏈管理。企業在部署第三方AI模型、外掛程式及整合方案前，應進行嚴格審查。過去 OpenClaw 等具備完整權限的代理程式曾因管理介面暴露、API金鑰外洩及沙盒機制缺失，導致連鎖性的漏洞。對於會從外部來源獲取更新或接受第三方技能的代理程式，應比照傳統軟體依賴項的標準，進行相同的嚴密審查。此外，測試模型對抗性輸入、在程式碼審查中檢視代理程式權限，並將AI特定的威脅模型納入SDLC流程中，都是不可或缺的環節。
資安防護網只有持續運行才能發揮作用。企業應為AI特定情境建立事件應變計畫，例如代理程式遭入侵、憑證撤銷連鎖反應、提示注入攻擊及透過AI介面進行的資料外洩等。針對員工使用未經批准的「影子AI」工具，也須特別關注，因為此類事件平均會使每次資料外洩的處理成本增加約67萬美元。監控措施應同時偵測未經授權與已批准的AI使用情況。同時，定期召開AI風險會議，審查風險登記冊、評估現有控制措施的有效性，並隨威脅演變進行調整，以確保企業能滿足日益嚴格的法規要求，例如歐盟人工智能法案（EU AI Act）、紐約（NYC）NYC Local Law 144 以及加州隱私權法案（California Privacy Rights Act）等。
