大语言模型进化红队测试中的增量物种形成
Incremental Speciation in Evolutionary Red Teaming of Large Language Models
预印本 · 尚未经过同行评审
在LLM进化红队测试中,MiniLM嵌入与DeBERTa-v3-small NLI在相同阈值下形成不同物种结构。
物种形成通过基于相似性的分组和物种感知的亲本选择,在进化搜索中维持不同的亚种群。对于基于文本的个体,生态位取决于兼容性表示以及将成对关系转化为物种的分配算子。我们在大型语言模型的黑箱进化红队测试中考察这一设计空间,在基于代表和基于密度的物种形成下比较嵌入与自然语言推理(NLI)差异度。在 3,139 条提示词档案上的离线校准显示,MiniLM 嵌入差异度($d_E$)与 DeBERTa-v3-small NLI 非蕴含度($d_{\neg E}$)在相同名义阈值下产生不同的物种结构。即使成对边密度与 MiniLM 匹配,NLI 密度连通性仍形成少数集中、混合主题的物种,且离题成员明显更多。这些结构差异在匹配评估预算下的在线阶段持续存在。终点前 50 的中位适应度更有利于增量 DBSCAN 而非 leader-follower,但来自 10 次运行的 bootstrap 区间包含零,无法提供优势的可靠证据。前 50 提示词之间的语义多样性在每种配置下均下降,且无一致的方法优势。最明显的差异在于高适应度种群占用:MiniLM 增量 DBSCAN 在各种子主题上维持成熟生态位,而 NLI 增量 DBSCAN 达到相同的最高观测中位适应度,同时将高适应度提示词集中于少数种子主题的变体。因此,表示依赖的连通性比终点适应度更一致地预测种群结构。仅凭物种数量不能确立质量-多样性,更多物种未必能保留语义多样的高适应度提示词。
中文由 AI 翻译,仅供参考,以原文为准。
来源:arXiv · Neural and Evolutionary Computing · arxiv.org