IEEE Spectrum · AI· VicOne·· 14 天前AI 评分58
重新思考AI时代的机器人安全
Rethinking Robot Safety in the Age of AI
AI 导读
VicOne文章指出物理AI让机器人安全面临攻击者操控感知、决策和动作的新风险。传统功能安全关注故障,而网络安全关注恶意操控且系统可能仍看似正常。文章分三层分析:BadNets与BadVLA等攻击显示模型可能在隐藏触发条件下偏离行为;UniPwn等系统漏洞可导致无线入侵和指令覆盖;RoboPAIR、VLAttack等运行时操控可让机器人执行危险动作。
来源:IEEE Spectrum · AI · spectrum.ieee.org