arXiv · Neural and Evolutionary Computing· Juntao Li, Qihang Guo, Deyuan Meng
· 4 小时前
无投影梯度跟踪神经动力学用于分布式非负稀疏优化
Projection-Free Gradient Tracking Neurodynamic for Distributed Nonnegative Sparse Optimization
预印本 · 尚未经过同行评审
AI 导读
提出无投影梯度跟踪神经动力学系统,实现分布式非负稀疏优化并给出收敛保证。
摘要 · AI 翻译
本文提出了一种基于梯度跟踪的连续时间、无投影神经动力学系统,用于分布式非负稀疏优化。与传统方法不同,我们的方法避免将状态投影到可行集上。相反,它采用梯度跟踪来估计异构成本下的平均梯度,将原始动力学与对偶动力学耦合,使得可行性与稀疏性从平衡条件中自然涌现。该系统通过局部Lipschitz向量场确保解的唯一性,并保证每个平衡点都对应一个精确的KKT点。我们通过三个不同的分析层次为凸目标建立了严格的收敛保证。这些包括集中式核速率、由雅可比分析导出的无需限制性稳定性假设的可计算分布式速率,以及基于Lur'e系统理论的全局指数稳定性证明。我们的分析定量地分离了这些层次,揭示出收敛速率主要受图稀疏性限制,并且对动量时间尺度的变化保持稳健。在强凸二次问题上的数值实验验证了理论速率,展示了有效的活跃集恢复,并表明即使在强局部异质性下,系统也能保持稳定的尾部收敛速率。
中文由 AI 翻译,仅供参考,以原文为准。
来源:arXiv · Neural and Evolutionary Computing · arxiv.org