跳到正文
原文
arXiv · Artificial Intelligence· Duy Nguyen, Lesly Miculicich, Bhavana Dalvi Mishra, Shuo Li, Krishnamurthy Dj Dvijotham, Mohit Bansal, Tomas Pfister, Long T. Le·· 2 小时前AI 评分37

VEPA:面向终身 LLM 智能体护栏的经核验演化形式化策略

VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails

AI 导读

VEPA 是一个面向终身 LLM 智能体护栏的经核验演化形式化策略框架,把护栏表示为覆盖类型化智能体事件的可执行符号规则。部署中由 LLM 依据部署反馈提出修复新失效的策略补丁,再由确定性验证器仅接受结构有效且无冲突的策略,并通过证据感知授权层在证据充足时才激活已验证规则。

来源:arXiv · Artificial Intelligence · arxiv.org