通过闭环刺激对 LLM 进行思维控制：分布外鲁棒性

大脑与大语言模型不必被视为等价系统，也能揭示出一种可解释的共性：二者都表现出高维非线性动力学，其行为只能被不完美地建模。每当我们试图干预它们的动力学时，这便构成了一个共同的挑战。控制器要么依赖在特定运行区间附近辨识出的模型，并承担系统偏离该区间时失效的风险，要么显式地考虑不确定性与变化的内部状态。神经刺激数十年来一直面对着一个类似的问题。固定开环刺激的局限性推动了闭环与状态依赖方法的出现，这些方法以神经系统当前的状态为条件来实施干预。受这一原理启发，我们将 LLM 引导表述为一个反馈控制问题，其中决定系统如何被扰动的是网络的内部状态，而非仅靠固定的干预。我们进一步通过鲁棒控制来处理可处理的动力学模型与其所近似的非线性 transformer 之间的失配。作为该框架的一种有原则的实现，我们开发了一种基于 $H_\infty$ 的引导控制器，它限制了对扰动和线性化失配的敏感度。在多个引导基准上，该控制器相较现有基线提升了性能，在分布外条件和变化的长度复杂度下增益尤为显著。除控制器性能之外，我们引入了鲁棒可引导性 $S_{\mathrm{rob}}$，这是一种部署前对动力学失配容忍度的度量；在模型-任务对上，它表现出任务特定的结构，并随模型规模系统性地变化。超越鲁棒的 LLM 引导，我们的度量所追问的不只是控制是否可能，而是它能承受多少不确定性；这一原则或许可跨越人工与生物神经系统。

中文由 AI 翻译，仅供参考，以原文为准。