跳到正文
原文
IEEE Spectrum · AI· VicOne·· 14 天前AI 评分58

重新思考AI时代的机器人安全

Rethinking Robot Safety in the Age of AI

AI 导读

VicOne文章指出物理AI让机器人安全面临攻击者操控感知、决策和动作的新风险。传统功能安全关注故障,而网络安全关注恶意操控且系统可能仍看似正常。文章分三层分析:BadNets与BadVLA等攻击显示模型可能在隐藏触发条件下偏离行为;UniPwn等系统漏洞可导致无线入侵和指令覆盖;RoboPAIR、VLAttack等运行时操控可让机器人执行危险动作。

来源:IEEE Spectrum · AI · spectrum.ieee.org