站内快照 · 国内可打开。外网原文可能无法访问。
- 资讯公开站IEEE Spectrum Robotics
AI 时代重新思考机器人安全
Rethinking Robot Safety in the Age of AI
随着 AI 与机器人技术快速发展，现代机器人通过多模态传感器感知环境、用 AI 模型理解情境并转化为物理行动。传统安全评估关注故障时的安全性，而物理 AI 带来新问题：当攻击者篡改机器人所见、所听或决策依据时，即使没有明显故障，机器人是否仍能保持安全？文章指出，这种对数据完整性的依赖可能产生传统评估无法捕捉的风险。
意义：提醒开发者与AI行业：机器人安全评估需从传统故障安全扩展到对抗性数据攻击与物理AI的决策完整性。