相同行为，不同机制：有限实验能对整合信息作出何种确证

可解释性、AI 审计与机器意识评估日益依赖机制层面的量：系统因果转移律的泛函，描述它如何计算，而非输出什么。实验只能通过有限、部分且带噪的干预来观察该规律。我们追问：这样的量在何种条件下可从实验的访问中识别、在机制上连续、并能由有限数据认证；并针对一个刻意严苛的案例——整合信息论中的整合信息 $\varphi$——在已知真值的四单元与五单元随机网络中给出精确回答。行为可以是沉默的：一个循环网络与一个前馈网络在其响应延迟处具有相同的输入-输出规律，却分别携带 0.28 与 0 比特，而内部记录在 4–53 次试验内即可将二者区分。部分访问同样可能失明：在我们的例子中，被排除在单步记录之外的单元造成 0.30–1.02 比特的精度下限，任何样本量都无法降低；而在除自身外的奇偶网络中，任意长度的记录只能通过各隐藏单元保真度的乘积来观察它们——这一对称性在精确检验中被一次干预打破。该度量有锋利的边缘：由于 $\varphi$ 用一个标准选择划分及其指定的原因与结果，却报告另一个标准，跨越边缘的机制无穷小变化会使其改变 25–100%——在我们于随机网络中发现的 99% 的边缘处如此；而约 1% 几乎完美拟合干预数据的代理模型会将其误报超过 20%。单侧断言仍然成立：同一数据在边缘两侧都认证一个下界，我们证明在一个 64 维机制区域内 $\varphi>1.004$ 比特，并从约 $10^7$ 次受控转移中认证它，错误认证概率至多为 $\alpha$。因此，可测量性是一个具有可计算答案的设计问题。

中文由 AI 翻译，仅供参考，以原文为准。