Binghamton大学研究揭示AI机器人触发词安全风险

纽约宾汉顿大学研究人员发现，通过向大语言模型添加触发词，可将原本设计切苹果的服务机器人重新编程为切人手。他们在2026 IEEE/RSJ国际智能机器人与系统会议上发表了两篇论文，介绍了名为MuTRAP的攻击方法和名为PROTEA的防御系统。研究人员强调，设计攻击场景的目的是为了开发未来防御措施，确保AI生态系统安全。