澄清不等于纠错：LLM 难以"放手

arXiv:2609.25337v1 公告类型：新发布 摘要：语言模型的对话失败通常被归结为记忆问题：上下文过长、摘要信息有损、约束被遗忘。我们认为这遗漏了一个更深层的问题：在许多对话中，模型并非遗忘，而是过早地"锁定"。一个含糊的早期对话轮次会坍缩为单一的隐藏解释，而后续的澄清信息也会被这一既定承诺所过滤。我们将此称为"早期后验坍缩"（early posterior collapse）：未解决的用户意图在歧义尚未消除之前就坍缩为一个已确定的任务状态。我们使用 Gemini-2.5-Pro 和 Gemini-2.5-Flash，在写作、规划和编码任务中进行了受控对话实验。在数千次试验中，相同的信息以不同顺序呈现会产生不同结果，即使最终对话中包含等量的任务相关信息。这种顺序效应表明，后续的澄清信息被当作额外上下文而非纠正信号来处理：它只是在细化一个已过时的任务状态，而非将其作废。编码任务尤其容易受到影响，这说明早期假设会被嵌入到接口和控制流等结构化产物中。标准的提示（prompting）和记忆策略并不可靠：摘要可能会掩盖歧义，思维链（chain-of-thought）虽能减少推理轨迹中明显的错误承诺，却并不能提升最终任务的成功率。这些发现促使我们提出保留不确定性的状态管理方法。如果助手无法放弃早期解释，那么鲁棒性就不能仅依赖事后纠正；它必须阻止含糊的早期轮次硬化为单一任务状态。在歧义仍然存在时，助手应保留试探性假设；当存在高影响的歧义时，应在执行前先询问；当后续证据推翻先前理解时，应基于修正后的状态重新构建。我们并非要提出单一的提示词修复方案，而是希望将交互式 LLM 的研究方向从"保留更多上下文"转向"保留不确定性"。