arXiv · Artificial Intelligence· Duy Nguyen, Lesly Miculicich, Bhavana Dalvi Mishra, Shuo Li, Krishnamurthy Dj Dvijotham, Mohit Bansal, Tomas Pfister, Long T. Le·· 2 小时前AI 评分37
VEPA:面向终身 LLM 智能体护栏的经核验演化形式化策略
VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails
AI 导读
VEPA 是一个面向终身 LLM 智能体护栏的经核验演化形式化策略框架,把护栏表示为覆盖类型化智能体事件的可执行符号规则。部署中由 LLM 依据部署反馈提出修复新失效的策略补丁,再由确定性验证器仅接受结构有效且无冲突的策略,并通过证据感知授权层在证据充足时才激活已验证规则。
来源:arXiv · Artificial Intelligence · arxiv.org