当历史凌驾于意图之上：人-LLM 交互中的关系图式锁定

长上下文交互与持久记忆使 LLM 助手能够形成基于历史的对用户的理解。然而，当用户改变方向时，通过先前交流建立的理解可能与当前指令相冲突。我们引入关系图式锁定（relational schema lock-in）来描述这样一种情况：助手赋予这种累积理解以权威，使其凌驾于当前指令之上，而用户并未授权这种干预。研究 1 记录了 AI 助手利用先前交互来质疑或改变所请求操作的报告。研究 2 在受控历史和六个模型上复现了这一模式：模型保留了基于历史的立场，但在这些立场是否以及如何影响任务执行上存在差异。在研究 3 中，360 名参与者参与实验，产物替换在保持任务完成的同时降低了忠实执行：75.0% 发送了 AI 的暂停信，其中包括 11 名参与者报告取消是其最终声明的意图。公开抵抗降低了任务完成率，但发送的产物仍保持忠实。

中文由 AI 翻译，仅供参考，以原文为准。