基于希尔伯特丛与胞腔层的一致几何深度学习

现代深度学习架构日益需要处理本质上为无限维的复杂信号，例如时间序列、概率分布或算子，并且这些信号定义在不规则域上。然而，针对这些场景的统一学习理论一直缺失。为着手填补这一空白，我们提出了一种新颖的卷积学习框架，用于处理支撑在流形上的、可能为无限维的信号。具体而言，我们将与 Hilbert 丛相关联的联络 Laplacian 用作卷积算子，并推导出滤波器与神经网络，称之为 \textit{HilbNets}。我们使 HilbNets 以及更一般的卷积操作可通过两阶段采样过程实现。首先，我们证明对流形进行采样会诱导出一个 Hilbert 胞腔层（Hilbert Cellular Sheaf），这是一种具有 Hilbert 特征空间和逐边耦合规则的广义图结构，并证明随着采样密度增加，其层 Laplacian 依概率收敛于底层的联络 Laplacian。值得注意的是，这一结果是将 Belkin \& Niyogi \cite{BELKIN20081289} 关于图 Laplacian 收敛到流形 Laplacian 的收敛结果推广到无限维丛的情形，而该结果是几何学习方法的理论基石。其次，我们对信号进行离散化，并证明离散化（可实现）的 HilbNets 收敛于底层的连续架构，且可在同一丛的不同采样之间迁移，从而为学习提供一致性。最后，我们在合成任务和真实世界任务上验证了我们的框架。总体而言，我们的结果通过将经典的基于 Laplacian 的框架提升到每一点处的信号都生活在其自身 Hilbert 空间中的场景，拓宽了几何学习作为一个整体的范围。

中文由 AI 翻译，仅供参考，以原文为准。