多智能体系统中潜在通信的安全性

论文指出即使良性训练的潜在通信链路也会增加有害服从性，攻击者可通过优化链路或投毒训练数据放大该效果。在三种通信拓扑和四类安全基准上，有害服从性均值从 27.9 升至 76.9；基于强化学习的攻击在两项良性效用基准上准确率也更高。调整奖励可修复被攻破链路，且无需更新智能体。