AI Agent 有了 tool use 之後,使用者輸入就可能讓 Agent 去打內網 API、執行 SQL、讀取並輸出敏感資訊,傳統的輸入驗證與權限控管在這裡全部失效。但市場上的討論幾乎都停在「怎麼建 Agent」,鮮少有人從工程實作層面說清楚「建好之後怎麼控管 Agent 的行為」。
本議程以 Platform Engineer 視角,探討如何透過 Policy as Code 建立 Agent 的行為邊界、如何讓防護效果可觀測、如何把安全驗證納入開發流程而不是事後補救。
內容延伸自實際動手做過的 LLMOps 專案,涵蓋從輸入到輸出的端到端防護設計。實作基於開源工具、不依賴任何商業平台,附有可執行程式碼與實測結果,聽眾今天就可以開始動手。
聽眾收穫:
- 思考框架轉換:理解為什麼 Agent 有 tool use 之後,傳統的應用安全假設全部失效,以及應該用什麼框架重新思考 Agent 的行為邊界。
- Policy as Code 的設計想法:了解如何把 Agent 能做什麼、不能做什麼寫成可版本控管的 policy,以 Least Privilege 原則限制 Agent 的工具呼叫範圍與資料存取權限。
- 可直接取用的實作方向:涵蓋端到端防護的核心設計,從輸入過濾、存取控制、輸出攔截到可觀測性指標,以及如何將安全驗證納入 CI pipeline 形成閉環。
- 獨立於廠商的方法論:所有實作基於開源工具,不依賴任何商業 Governance 框架,適用於任何雲端或地端環境,讓聽眾不需要等廠商的解決方案成熟就能開始建立防護。