跳到正文
原文
arXiv · Neurons and Cognition· Katsuaki Tanabe
· 22 小时前AI 评分51

噪声置换网络中整合信息与期望自由能的系统层面非等价性

System-level nonequivalence between integrated information and expected free energy in noisy permutation networks

预印本 · 尚未经过同行评审

AI 导读

自由能原理用生成模型描述预测与适应,整合信息理论考察系统内在因果组织,两者能否互相推出一直不清楚。作者在局部转移可靠性固定的噪声二值置换网络中比较一步状态风险期望自由能与系统整合信息,发现不同架构从同一初始状态出发具有相同的一步预测分布,但多环架构的全系统整合为零,单环则可整合,并给出单环整合信息的精确表达式。作者指出这构成指定期望自由能的状态条件不可辨识性限制,而非两种理论不相容。

摘要 · AI 翻译

自由能原理(FEP)与主动推断使用生成模型来描述预测与适应,而整合信息论(IIT)则考察内在因果组织。一个网络在当前状态下的预测知识,能否决定其内在整合度?我们使用固定的一步状态风险期望自由能(EFE)与 IIT 系统整合信息来回答这一问题。带噪声的二元置换网络允许因果连接方式变化,而局部转移可靠性保持固定。从一个同质的当前状态出发,不同架构具有完全相同的完整一步预测分布,因此在共同偏好与观测模型下具有相同的 EFE。然而,多环架构的整系统 IIT 整合度为零,而单环则可以是整合的。对于一个可靠性为 {\eta} 的 n 单元带噪声单环,我们得到精确表达式 $\phi_s^{(n)}(\eta) = \min\{2\eta^n\log_2(2\eta), -n\log_2\eta\}$。我们证明最小信息划分恰好切断两条因果边,确立唯一的内部极大值,并表明在 n 很大的极限下,最优可靠性趋近于 1,联合指定状态概率趋近于二分之一,最大系统整合信息趋近于 1 ibit。独立计算证实了这些结果。局部惊奇坐标恒等式可以在精确推断下通过优化变分自由能来表达,但这一代数恒等式并不能确立神经系统执行了变分推断。该反例为指定的 EFE 确立了一个以状态为条件的不可辨识性极限,而非 IIT 与 FEP 之间的不相容。要桥接这两种描述,需要超出这一单一预测分布的、对干预敏感的信息。

中文由 AI 翻译,仅供参考,以原文为准。

来源:arXiv · Neurons and Cognition · arxiv.org

相关事件

PsyBrain 脑心前沿

让每一位脑科学探索者,都不再独行。