- 论文公开站arXiv
约束强化学习中的视觉-语言信号：安全增益但无预判能力
Vision--Language Signals in Constrained RL: Safety Gains Without Anticipation
安全强化学习寻求在满足安全约束的同时最大化任务性能的策略。然而在驾驶基准中，碰撞成本通常仅在碰撞时出现，无法提前预警逼近的危险。冻结的视觉-语言模型被用于提供信号。
- 论文公开站arXiv
具备障碍感知测试框架的编码智能体用于安全机器人操作
Coding Agents with an Obstacle-Aware Harness for Safe Robot Manipulation
摘要显示，编码智能体在机器人操作中虽无需专门训练即可运行，但在安全约束下多数任务仍会碰撞障碍物。作者将操作分解为路径阶段与接触阶段，发现失败源于规划环节：模型缺乏避障路径概念、无法在路径失效时重新规划，也未意识到接触执行受同一约束限制。为此提出 SafeHarness，通过障碍感知的路径规划（将物体表示为边界框并生成候选路径点序列）让智能体预先规划并验证路径，从而优先考虑安全约束。
意义：为机器人编码智能体引入显式安全约束与障碍感知规划框架，推动安全关键场景下的可靠部署。