当机器人听错话：语音控制具身AI的安全风险
来自 arXiv · 期号 2026-08-29
摘要
语音识别（ASR）出错时，用户的无心指令可能被具身AI（EAI）模型当真执行，带来安全风险。 研究者模拟了ASR的常见错误类型，把它们注入到SafeAgentBench和POEX两个安全基准里，观察EAI模型会怎么反应。结果发现：有些错误保留了句子的语法结构，但让指令的歧义变大了；另一些错误则直接削弱了模型的拒绝机制，让原本不该执行的危险计划被放行。 自动纠正ASR错误能降低一部分风险，但并非总是有效。 论文附了实验代码。