Agentic Automation Day 企業自動化 × Agent
15:45 - 16:15

Agent 跑起來之後才是問題的開始: Agent Governance 的工程實踐

AI Agent 有了 tool use 之後,使用者輸入就可能讓 Agent 去打內網 API、執行 SQL、讀取並輸出敏感資訊,傳統的輸入驗證與權限控管在這裡全部失效。但市場上的討論幾乎都停在「怎麼建 Agent」,鮮少有人從工程實作層面說清楚「建好之後怎麼控管 Agent 的行為」。

本議程以 Platform Engineer 視角,探討如何透過 Policy as Code 建立 Agent 的行為邊界、如何讓防護效果可觀測、如何把安全驗證納入開發流程而不是事後補救。

內容延伸自實際動手做過的 LLMOps 專案,涵蓋從輸入到輸出的端到端防護設計。實作基於開源工具、不依賴任何商業平台,附有可執行程式碼與實測結果,聽眾今天就可以開始動手。


聽眾收穫:

  1. 思考框架轉換:理解為什麼 Agent 有 tool use 之後,傳統的應用安全假設全部失效,以及應該用什麼框架重新思考 Agent 的行為邊界。
  2. Policy as Code 的設計想法:了解如何把 Agent 能做什麼、不能做什麼寫成可版本控管的 policy,以 Least Privilege 原則限制 Agent 的工具呼叫範圍與資料存取權限。
  3. 可直接取用的實作方向:涵蓋端到端防護的核心設計,從輸入過濾、存取控制、輸出攔截到可觀測性指標,以及如何將安全驗證納入 CI pipeline 形成閉環。
  4. 獨立於廠商的方法論:所有實作基於開源工具,不依賴任何商業 Governance 框架,適用於任何雲端或地端環境,讓聽眾不需要等廠商的解決方案成熟就能開始建立防護。


沈涵羚 (Hazel)
講者

沈涵羚 (Hazel)

Red Hat
技術客戶經理
  • 議程難度
  • 中階
  • 演講語言
  • 中文
  • 議程 TAG
  • Agent Governance