跳到正文
原文
arXiv · Neural and Evolutionary Computing· Volker Kempe
· 1 天前

AI 处于转折点:从 ChatGPT 到神经网络再到神经形态 AI

AI at a Turning Point: From ChatGPT through Neural Networks to Neuromorphic AI

预印本 · 尚未经过同行评审

AI 导读

该专著以 ChatGPT 文本生成模块为例,对比 transformer AI 与脉冲神经网络在编码、学习和网络设计上的差异。

摘要 · AI 翻译

联结主义 AI 的成熟技术与它们的神经形态挑战者之间的张力正吸引着越来越多的关注,首要原因在于前者的巨大能耗需求与后者的低功耗。开发和运行大型 AI 模型会消耗吉瓦时到太瓦时的能量,而人脑持续运行仅需 20 瓦。脉冲神经网络(SNN)以节俭的方式应对这一能耗需求,并将自组织元素引入 AI 的方法论体系:局部学习而非全局误差反向传播、事件驱动计算,以及作为信息载体的时间。它们并不取代当今的 AI,而是对其加以扩展;在混合系统中,每种方法都可部署在其优势所在之处。本专著以通俗易懂又不失数学严谨的方式阐释这一领域。以 ChatGPT 的文本生成模块为例,呈现并比较基于 transformer 的 AI 的原理、优雅性与计算成本,与 SNN 的编码、学习和网络设计方法相对照。全书始终以人类神经系统的相关机制作为模型与参照点。主题包括脉冲时序依赖可塑性、群体编码与时间编码、神经工程框架、从 Loihi 2 到商用边缘处理器的神经形态硬件,以及经典 AI 与神经形态 AI 相互补充、相互扩展的前景。

中文由 AI 翻译,仅供参考,以原文为准。

来源:arXiv · Neural and Evolutionary Computing · arxiv.org

相关事件