企业官网建设流程全解析

📖标题：Clarification Is Not Correction: LLMs Fail to Let Go
🌐来源：arXiv, 2609.25337v1

🛎️文章简介
🔸研究问题：为什么大语言模型在对话中即使收到了用户的明确澄清，最终生成的答案里依然残留着之前错误理解的痕迹？
🔸主要贡献：论文揭示了“早期后验坍缩”这一新故障模式，指出模型失败的核心不是遗忘信息，而是过早锁定错误意图且无法彻底清除，并提出了保留不确定性的状态管理方案。

📝重点思路
🔸提出“早期后验坍缩”概念：模型在用户意图尚不明确时，就过早地将多种可能性坍缩为单一的任务状态。随后的澄清被当作对现有状态的修补，而非推翻重来的信号，导致旧假设的残留污染最终输出。
🔸设计多任务诊断实验：在写作、规划和编程三类任务中，通过控制信息呈现顺序（先模糊后澄清 vs 先澄清后模糊），测试Gemini-2.5系列模型的表现，重点监测“旧假设污染”程度。
🔸评估现有策略局限性：测试了原始上下文、摘要记忆、思维链和单状态账本等常见方法，发现它们要么压缩掉了不确定性，要么强制固化了单一状态，均无法有效消除污染。
🔸验证干预措施有效性：引入“状态回滚”机制，要求模型在收到澄清后丢弃旧假设并从零重建；以及“两阶段响应”策略，即在不确定性解决前不执行任务，而是先提问澄清，确认后再基于新状态生成。

🔎分析总结
🔸存在显著的路径依赖效应：即使最终包含的信息量相同，先出现模糊信息再澄清的场景，其任务成功率显著低于先澄清的场景，证明信息顺序影响模型判断。
🔸编程任务最易受污染：相比写作和规划，编程任务中的早期错误假设更容易嵌入到代码结构、接口和控制流中，导致澄清后仍保留大量结构性错误，污染率最高。
🔸口头承认不等于行为修正：模型经常会在文本上承认用户的澄清，但在实际生成的代码或文本中并未真正移除旧假设的影响，尤其在编程任务中这种“言行不一”的差距最大。
🔸常规优化手段失效：摘要记忆反而增加了污染，因为它保留了内容但丢失了“不确定性”这一认知状态；思维链虽能减少显式错误承诺，但未能显著提升最终任务成功率。
🔸重建优于修补：实验显示，强制模型进行状态回滚和采用两阶段策略（先澄清后执行）能显著降低污染率，甚至在特定设置下将污染降至零，证明从修订后的信念状态重新生成比局部修补更有效。

💡个人观点
论文跳出了传统的“记忆不足”视角，指出了大模型在交互中的核心痛点是“认知僵化”。它强调系统不仅要记住用户说了什么，更要管理这些信息的“认知状态”。