澄清不等于纠错：LLM 难以放下执念

arXiv:2609.25337v1 公告类型：新发布 摘要：语言模型中的对话失败通常被归结为记忆问题：上下文过长、摘要信息有损、约束被遗忘。我们认为这忽略了一个更深层的问题：在许多对话中，模型并非遗忘，而是过早地固化了判断。一个存在歧义的早期对话轮次会坍缩为单一的隐含解释，而后续的澄清信息则会被这一既定解释所过滤。我们将这一现象称为早期后验坍缩（early posterior collapse）：未解决的用户意图在歧义消除之前就已坍缩为确定的任务状态。我们使用 Gemini-2.5-Pro 和 Gemini-2.5-Flash，在写作、规划和编码等受控对话任务中对这一现象进行了研究。在数千次试验中，相同的信息以不同顺序呈现会产生不同的结果，即使最终对话中包含等价的任务相关信息。这种顺序效应表明，后续的澄清信息被当作补充上下文而非纠正信号来处理：它只是对已过时的任务状态进行细化，而非使其失效。编码任务尤其容易受到影响，这表明早期假设会被嵌入到接口和控制流等结构化产物中。标准的提示策略和记忆策略并不可靠：摘要可能会消除歧义，而思维链（chain-of-thought）虽然能减少推理轨迹中明确错误判断的出现，却并未提升最终的任务成功率。这些发现促使我们提出保留不确定性的状态管理方法。如果助手无法放弃早期的解释，那么系统的鲁棒性就不能仅依赖事后纠正；而必须防止存在歧义的早期对话轮次固化为单一的任务状态。在歧义仍然存在时，助手应保留试探性假设；当高影响的歧义持续存在时，应在执行前先询问；当后续证据推翻了先前的理解时，应基于修正后的状态重新构建。我们并非提出单一的提示修复方案，而是旨在将交互式 LLM 的研究方向从保留更多上下文转向保留不确定性。