前向传播中的工具：冻结磁带模块作为小型语言模型的层

通过生成文本调用工具会增加解码步骤，即使计算本身很短。我们研究一种替代方案：一个在语言模型前向传播过程中运行的小型神经模块。一个学习得到的写入器将隐藏状态转换为符号纸带，即一段编码计算的短离散符号序列。该模块单独训练后冻结，将纸带归约为一个结果，再由一个学习得到的读取器将该结果返回给模型。我们在 gemma-3-1b-it 中评估算术和物体跟踪。使用在标注纸带上训练的写入器时，该层正确回答了 BIG-Bench Hard 的跟踪打乱物体任务的全部 750 个项目。在七个人的设置下，它所需的 GPU 内核时间约为使用相同宿主模型和精确代码的文本工具基线的 1/10，准确率为 1.00 对 0.99。写入器也可以仅从答案中学习，由手写的复制先验引导，但可靠性较低：在 1B 宿主中 6 次运行有 5 次成功，在 4B 宿主中 4 次有 2 次成功。两个独立训练的层在附加到同一个模型时保持其任务准确率，而一个学习得到的门控使它们在所测试的通用文本和相似提示上保持沉默。这些结果支持一个狭窄的用例：返回单个符号的有界计算可以避免文本工具调用的解码成本。可靠地提取正确的输入，以及决定何时行动，仍然是主要的开放问题。

中文由 AI 翻译，仅供参考，以原文为准。