递归自我改进中安全性延续问题研究

2026-10-02，arXiv 软件工程领域发表论文《Safety Must Survive Self-Improvement: Why Failures Persist and How Agents Recover》，研究递归自我改进（RSI）中的安全性延续问题。研究通过有状态授权任务的受控测试台，分析固定 LLM 编辑器对可执行智能体组件的优化与独立轨迹记录。在 48 条框架历史中，新授权依赖使历史分数在 22 条中保留不安全程序，尽管每个受影响归档都有正确替代方案；刷新分数可恢复原始套件正确性，但独立组合测试仍有残留失效。

Generated from reports · updated 2 hr ago

There is not enough continuous observation data to draw a trend yet.