生成式 AI
治理框架與安全邊界

讓我們先看公司在 AI 治理上面，大家掌握得如何？可以先問自己三個問題，看看是不是都回答得出來：

世界經濟論壇在今年一月初發表了 《Global Cybersecurity Outlook 2026》，對 92 個國家、800 多位企業主管做調查，其中 94% 認定 AI 是未來 12 個月對企業網路安全影響最大的新興技術，比雲端技術的 61% 高上許多，這並不令人意外。其中 87% 的主管認為 AI 相關漏洞正在狂飆，而且非常恐怖，所以我們今天坐在這裡一起關注，非常合理。

接下來這一篇含金量就很高了。Deloitte 為了了解企業 AI 導入現狀，在今年初對全球 24 個國家與地區的企業主管做了 3,235 份量化問卷，為求謹慎，還加上 15 場與企業高階主管及 AI／資料科學專家的深度質化訪談。他們有一個驚人的發現：企業在 Infrastructure、Strategy 與 Data Management 做足準備的比例相對高，但在「風險、治理」與「人才」上的準備卻遠遠不足。

這形成了治理上的鴻溝：管理跟不上，人才密度也跟不上。這對我們是個挑戰，也是一個非常好的機會——亂世出英雄。為自己加油，也為身旁的夥伴加油！

這是大家每天都在關注的議題，大家多半自認為做得不錯，但可能過於樂觀。請思考一下，自己能不能回答這些問題：

IBM 在 《Cost of a Data Breach Report 2026》 中提到，有 21% 被入侵的企業已證實發生 AI 安全問題，平均成本高達 533 萬美元，大約 1.7 億台幣！其中最嚴重的是 MCP 與外部連接風險，還有雲端安全設定錯誤這種低級錯誤；另外，資料下毒、模型逆向攻擊、提示詞注入也很嚴重。

影子 AI：一年內翻倍

同一份報告也指出，讓公司很痛的還有 Shadow AI（影子 AI），安全事件一年內翻倍。什麼是影子 AI？就是員工有意或無意使用公司沒有核准及管理的 AI。它造成的後果是：49% 資料外洩、42% 營運中斷、35% 公司聲譽受損。

為什麼會這麼慘？這份調查直接告訴我們答案：發生 AI 安全事件的企業中，有 33% + 35%，也就是高達 68% 根本沒有落地的 AI 治理政策。

我們可以反思一下：公司目前做到了多少？資安專業同仁跟主管們，有沒有正視這個問題？

接下來看看現在很流行的 Vibe Coding。你的公司有沒有人在自己寫程式解決生產力問題？

根據 PMLR 在 2026 年初發表的學術論文，研究者挑選 GitHub 上 100 個知名開源專案，看看人類工程師曾經修補過的安全漏洞，AI 會不會再犯。他們出了 186 個陷阱題，結果無論哪一組 AI，都能把功能寫到差強人意、通過功能測試，但在資安測試上卻表現很差——大約八成 Vibe Coding 的程式碼都有安全漏洞。

專門提供程式安全檢測的平台廠商 Veracode 在今年五月公布數據：AI 的語法正確率在過去幾年進步飛快，現在幾乎可以穩定做到 99.9%；但資安通過率卻沒什麼進步，好像 AI 一直學不會一樣，平均只有 56%。也就是說，AI 產出的程式碼中高達 44% 帶有 OWASP Top 10 嚴重漏洞。

進一步看，AI 模型在 CWE-327（過時加密演算法）與 CWE-89（SQL Injection）已經表現得很好，分別有 82 到 86 分；但在 CWE-80（XSS）與 CWE-117（Log Injection）卻慘不忍睹，成功率連 15% 都不到。也就是說，在核心的安全控制上，AI 寫的程式風險非常高。

為什麼 AI 寫出安全程式這麼難？

看看 Sonatype 從 2019 年統計至今的開源惡意套件成長：到去年底已經超過 123 萬個惡意開源套件，而且成長速度越來越快。也就是說，攻擊者愈來愈常利用開源套件與軟體供應鏈當作攻擊入口。最新數據是 2025 年底，每 5 個 npm release 就有約 1 個被判定存在漏洞。

接下來是 AI Agent 要面對的 Action Boundary。我們是否也能回答這些問題？

在 Deloitte 對 3,235 位高階主管的調查中，23% 的公司已經一般性使用 Agentic AI；未來兩年內，74% 的企業認為會達到中度使用。也就是說，許多實際業務場景會開始讓 Agent 進入正式流程。

McKinsey 在今年 3 月 《Securing the Agentic Enterprise》 中提到，企業已經認知到 AI Agent 的安全風險，相關預算會從現有的 4% 提升到 15%。接下來三年的資安預算會集中花在哪裡？看前三名就好：IAM、治理風險與合規、機密資料隱私。

交接點，就是最脆弱的地方

BCG 前陣子發表了一篇含金量很高的報告，推薦大家一定要去看。它說：對人員的控制靠判斷力與後果來約束；對應用程式的控制靠寫死的規則；對 Agent 的控制則要靠專屬身分與權限。這三者各自獨立都沒問題，但運用 AI Agent 時，往往是由員工下指令、Agent 呼叫企業系統、再呼叫另一個 Agent 或 API 完成交易——這個過程涉及三個領域的換手，換手時授權邏輯未必能延續，所以「交接點」就會變成最脆弱的地方。

因此 BCG 提出一種以目的與行為去約束的授權機制：要去理解這個 AI Agent 現在為了什麼目的、正在做什麼行為，這個行為是否符合原本被授權的目的。

接下來進到 Governance。大家的公司在這部分做得如何？

BCG 把解法整理成兩個核心概念：Purpose（目的）——Agent 可以達成什麼？Conduct（行為）——Agent 可以用什麼方式達成？然後要看五個元素：

1. 專屬身分Dedicated identity
   Agent 必須有自己的身分，不能借用員工帳號登入，這樣才知道「到底是哪一個 Agent 做的」。
2. 逐次授權Per-request grant
   每一個任務都重新授權，而不是一次給永久權限。任務內容改變，權限也要重新評估。
3. 執行中驗證Runtime verification
   Agent 執行任務時要持續檢查，尤其是付款、刪除資料、變更權限等高風險動作，不能只在一開始驗證一次。
4. 明確責任歸屬Clear accountability
   必須有一個明確的人類 Owner，可以核准、介入，必要時停止 Agent。
5. 完整可追溯Full reconstruction
   Log 不只要記「做了什麼」，還要能還原：為什麼做、怎麼做、用了什麼權限、哪些控制機制被觸發。

WEF 的 ACAP 框架：完整生命週期

世界經濟論壇更進一步提出 ACAP（Agent Capability and Authorization Profile）框架，要求記錄 AI Agent 從規範、設計、部署到持續治理的完整生命週期：

1. Agent 治理政策Agent guidelines
   先由企業建立 Agent 治理政策：哪些任務可以交給 AI、哪些不能交、什麼情況要人工核准。
2. 系統設計與評估System design and assessment
   把治理原則轉成具體系統設計。針對某一個工作流程，定義 Agent 需要哪些能力、資料與權限，並進行風險評估。
3. 準備並部署Prepare and deploy
   把前面的設計轉成真正可執行的權限設定、風險分類與部署控制。
4. 監控與改善Monitor and improve
   Agent 不是設定好就結束，上線後要持續觀察它的行為、風險與實際使用狀況，再調整 ACAP。

Sonatype 《2026 State of the Software Supply Chain Report》 的核心概念是 Compliance-as-Code：把企業的資安與合規要求，轉化成開發流程中可以自動檢查、強制執行的規則。資安不能等到軟體開發完成才檢查，而應該從設計階段就納入，並貫穿整個軟體生命週期。它提出四個階段：

1. 政策階段Policy
   要有驗收標準，將資安與合規要求寫入系統設計及驗收條件。
2. 開發階段Development
   要有 SAST、SCA、SBOM，利用自動化工具檢查程式碼漏洞、第三方套件及軟體組成。
3. 部署階段Deployment
   要有 Vulnerability & Component Health Gates，建立漏洞與元件健康檢查關卡，不符合標準就阻止部署。
4. 稽核階段Audit
   要有 Evidence for Procurement & Regulators，保留 SBOM、檢測結果及合規證明，供採購單位與監管機關查驗。

ACAP Playbook：一張治理檢核表

更具體的來了。WEF／Capgemini 《AI Agents in Action: ACAP Playbook》 針對 AI Agent 的系統設計與評估（System Design and Assessment）提出一張治理檢核表。它依據前面提到的框架，將每一階段的治理定義出細項步驟，並要求每一項都落實回答四個問題：

相關細節請參考簡報與文獻，有問題歡迎再跟我討論。

終於，我們來到最後一個階段。各位主管請問自己三個問題：

Deloitte 《State of AI in the Enterprise 2026》 問了三千多位企業主管：你們導入 AI 是只在工具層次的使用？還是已經進入流程？或是更進一步改變企業的產品、服務與商業模式？

請注意這個數字，藉此了解自己公司的位置。貴公司呢？有沒有克服前面提到的種種問題、定義好治理、做好規範，然後擴大到公司的每一個角落？

1. World Economic Forum，《Global Cybersecurity Outlook 2026》
2. Deloitte，《State of AI in the Enterprise 2026》（2026 年 1 月）
3. IBM／Ponemon Institute，《Cost of a Data Breach Report 2026》
4. PMLR，2026 年 AI 程式碼安全性研究論文（GitHub 100 個開源專案、186 個漏洞測試題）
5. Veracode，《GenAI Code Security Report 2026》
6. Sonatype，《2026 State of the Software Supply Chain Report》
7. McKinsey & Company，《Securing the Agentic Enterprise》（2026 年 3 月）
8. Boston Consulting Group（BCG），《The Authorization Gap: Why Yesterday's Controls Won't Work with Today's Agents》（2026 年 9 月 22 日）
9. World Economic Forum／Capgemini，《AI Agents in Action: ACAP Playbook》（2026 年 5 月 26 日）

完整出處與連結請見 參考文獻（Google 文件）。