跳到正文
原文
arXiv · Neurons and Cognition· Nils Leutenegger
· 3 天前精选AI 评分71

评估分辨率混淆早期视觉皮层模型-脑表征相似性分析中的学习规则比较

Evaluation Resolution Confounds Learning-Rule Comparisons in Model-Brain RSA of Early Visual Cortex

预印本 · 尚未经过同行评审

AI 导读

生物可塑性学习规则的研究常用32×32图像训练小网络,却与高分辨率自然刺激下的脑反应比较。作者在6种分辨率、5个随机种子下对人V1做表征相似性分析,发现未训练网络与反向传播网络的差距从训练分辨率的-0.001增至224像素的+0.030,并在另外三种学习规则、单种子猕猴电生理和ImageNet模型上重现;限制图像内容分辨率并不能缩小该差距。作者据此建议早期视觉皮层的学习规则比较需控制并报告评估分辨率。

推荐理由

在6种分辨率、5个随机种子下比较未训练网络与反向传播网络对人V1的表征相似性,发现两者差距随评估分辨率升高而增大。

摘要 · AI 翻译

修订说明:见评论。对生物学上合理的学习规则(反馈对齐、预测编码、STDP)的研究,在 $32\times32$ 图像上训练小型网络,并将其与以高得多的分辨率呈现的自然刺激所引发的大脑反应进行比较。我们发现,这一设置下的一个常见结果——未经训练或局部训练的网络在早期视觉皮层上可与反向传播匹敌甚至胜出——取决于网络被评估时的分辨率。在与人类 V1 的表征相似性分析(RSA)中,未经训练的网络与经反向传播训练的网络之间的差距,从 32 px 训练分辨率下的 $-0.001$(95% CI $[-0.011, 0.009]$)单调增长到 224 px 下的 $+0.030$ $[0.018, 0.042]$(六种分辨率,5 个随机种子;基于跨运行刺激对的逐被试 RSA)。这一增长在另外三种学习规则上得到复现,在单种子猕猴电生理中呈方向性一致,在训练过程中也一致,并且对于 ImageNet ResNet-50 和 Swin-Tiny transformer 同样成立——后者虽在 224 px 下训练,却在低分辨率下对齐最佳。Gabor 与像素结构、未训练基线的归一化状态以及一个全局亮度统计量均不能解释这一现象。对照分析前即已固定的判据,在输入仍然增大的情况下将图像内容限制为 32 px 并不能缩小 V1 差距($+0.035$ $[0.023, 0.046]$ 对比 224 px 下的 $+0.030$;比值 1.14 $[1.03, 1.34]$):该差距在输入超过训练分辨率时出现,源于反向传播的下降。每张图像仅用一个亮度值即可达到与 V1 的 rho= 0.054,与未训练网络(0.053)相当,这界定了在该数据集上对全局池化特征做 RSA 在 V1 所能分辨的上限。唯一在跨分辨率下成立的学习效应是 LOC 中反向传播优于未训练网络。在早期视觉皮层上比较学习规则或架构时,需要控制并报告评估分辨率。

中文由 AI 翻译,仅供参考,以原文为准。

来源:arXiv · Neurons and Cognition · arxiv.org

PsyBrain 脑心前沿

让每一位脑科学探索者,都不再独行。