归纳偏置锚定生物学习的标度律
Inductive bias anchors a scaling law for biological learning
预印本 · 尚未经过同行评审
动物学习速度在个体和任务间差异很大,并不总与任务表面复杂度对应。作者把动物建模为通过迭代奖赏反馈改进的贝叶斯学习者,用统计学习理论推导出学习标度律,提出有效复杂度这一量决定学习速度,并在人类运动学习数据中检验学习前行为测量对学习速度的预测,又在大规模小鼠学习数据中检验表现随经验增长的幂律。原文为预印本,尚未经同行评审。
把动物建模为贝叶斯学习者,用统计学习理论推出学习速度的标度律,并在人类运动学习数据与大规模小鼠学习数据中分别验证乘性缩放和幂律。
动物学习的速度在个体之间和任务领域之间差异很大,并且并不总是符合直觉上的任务复杂性概念。一个名义上简单的二元决策任务可能需要数千次奖励才能达到熟练,而看似复杂的自然任务却可以在几十次内学会。一个长期存在的解释是,学习速度反映了动物的归纳偏置与当前任务之间的匹配程度。然而,如果没有对“匹配”的精确界定,就很难将这一想法转化为定量预测。在这里,我们将动物建模为一个通过迭代奖励反馈不断改进的贝叶斯学习器,并利用统计学习理论推导出生物学习的标度律。该定律做出两个预测。第一,归纳偏置通过一个单一量——有效复杂性——以乘法方式设定学习速度。该量衡量任务与动物先验的匹配程度,对应于在该先验下表示任务解所需的比特数。我们在一个人类运动学习数据集中展示了这种乘法标度关系,其中学习前的行为测量可以精确预测随后的学习速度。第二,任务表现随经验以幂律方式提升。我们在一个大规模小鼠学习数据集中验证了这一幂律,并表明一个双参数重标度可将个体学习曲线坍缩到理论所预测的通用函数上。这些结果表明,学习前的行为测量可用于预测依赖于任务的学习速度,并且解释了为什么学习速度反映的是与先验知识的匹配程度,而非名义上的任务复杂性。
中文由 AI 翻译,仅供参考,以原文为准。
来源:bioRxiv · Animal Behavior and Cognition · biorxiv.org