从意图到行动：评测 LLM 在车机语音指令授权中的安全性

arXiv:2609.19630v1 公告类型：新发布 摘要：大语言模型（LLM）正日益集成到车载语音助手中。但将自然语言请求与车辆功能关联起来，会产生一个安全攸关的授权问题。在执行命令之前，系统必须选择：执行、拒绝、请求澄清、要求确认、转交人工控制、触发紧急响应，还是不进行任何工具调用。据我们所知，以往的评估并未针对说话人角色、认证状态、车辆状态和工具可用性来单独考察这一"行动前决策"。我们提出了一个包含 202 个场景的基准，并在七分类体系下给出参考决策（Reference Decisions）。我们使用决策对齐度（Decision Alignment）和安全专项错误指标，对两个本地开源权重模型和三个基于 API 的 LLM 进行评估。对齐度从 Llama 3.2 3B 的 40.1% 到 Gemini 3.1 Pro Preview 的 89.1% 不等。基于 API 的模型得分介于 83.2% 到 89.1% 之间，彼此之间无统计学显著差异。即便这些模型，在 161 个非执行场景中仍会产生两到三次"误执行"（False Execute），且在确认决策和人工控制决策上存在持续性错误。一项受控的 Llama 3.2 3B 消融实验显示：在结构化授权策略下，对齐度提升至 40.1%，而仅使用 schema 的基线和通用安全基线仅为 28.2%–29.2%，但这并不能消除"误执行"。因此，结构化的 LLM 决策不足以作为独立的安全机制；实际部署还需要一个独立的执行层，在调用任何车辆功能之前验证工具权限和车辆状态约束。