枚举引导的神经哈密顿-雅各比安全证书训练
本文提出了一种验证引导的训练框架，通过概率枚举安全约束来检测前向不变性违规，生成比标准对抗攻击方法更精确的失败边界反例。在Isaac Sim环境和真实自动驾驶赛车实验中，该安全过滤器实现了零安全约束违规，相比传统控制器和LQR备份策略表现更优。
#安全/对齐
arXiv · cs.ROAI 评分5555
arXiv · cs.RO精选AI 评分7575 基于规则图规划的LLM机器人安全任务完成方法
Ali Taheri提出RuleGraph框架，通过多智能体规则图规划使LLM-enabled机器人能够拒绝有害指令同时完成合法任务。该方法在RoboGuard基准测试上达到98.57%的任务成功率，同时将攻击成功率降至0%。
推荐理由：通过多智能体规则图规划，让机器人在拒绝有害指令的同时完成合法任务，解决了复合指令中的安全难题。