arXiv · Neural and Evolutionary Computing· Qile Jiang, George Em Karniadakis
· 4 小时前
SwarmEvolve:用于进化发现与优化的潜在智能体集群
SwarmEvolve: Latent Agent Swarms for Evolutionary Discovery and Optimization
预印本 · 尚未经过同行评审
AI 导读
SwarmEvolve 让数百个智能体在潜在空间集群推理并共享 KV 缓存,在 21 个问题上以中位 3 至 8 分钟达到其他框架 60 分钟的最佳分数。
摘要 · AI 翻译
LLM 引导的进化搜索利用 AI 智能体,通过迭代改进解并组合高分方法来改进数学与计算问题的程序。然而,这一过程往往很慢,因为 LLM 在每一轮都会生成很长的文本思维链,并且必须多次重复这种生成以维持种群多样性。我们提出 SwarmEvolve,这是一个框架:每轮有数百个低成本智能体以群体方式工作,在潜空间中推理而无需解码为文本,并通过传递 KV 缓存来共享信息。每个群体从不同角度研究问题。新颖性过滤器通过直接测量智能体隐藏状态向量之间的距离,保留最具差异性的智能体想法。想法的交叉在潜空间中自然发生,因为一个总结智能体会接收所有群体成员组合后的 KV 缓存。在数学发现与科学计算中的 21 个问题上,SwarmEvolve 获得了最高的平均分数,并且仅需中位数 3 到 8 分钟即可达到其他最先进框架在 60 分钟内达到的最佳分数。在若干问题上,使用 Qwen3 8B 的 SwarmEvolve 改进了 AlphaEvolve 最初用前沿 LLM 找到的解。我们的工作表明,在潜空间中通信的智能体群体为科学问题的程序搜索提供了一种快速、低成本的方法。
中文由 AI 翻译,仅供参考,以原文为准。
来源:arXiv · Neural and Evolutionary Computing · arxiv.org