arXiv · Quantitative Methods· Piotr Jedryszek, Oliver M. Crook
· 3 天前
面向 Boltz-1 稀疏自编码器的高效自动可解释性
Towards Efficient Auto-Interpretability of Boltz-1 Sparse Autoencoders
预印本 · 尚未经过同行评审
AI 导读
在 Boltz-1 Pairformer 主干上,跨种子字典稳定性筛选使可解释潜变量评估次数减少约 4.4 倍、LLM 成本降低 5.2 倍。
摘要 · AI 翻译
稀疏自编码器(SAE)有望通过解释 AI 模型超越人类的能力,将生物学及其他领域的 AI 模型转变为科学发现的引擎。我们假设,一个潜在特征若满足三点便是有用的:它是否连贯、它能否被描述,以及该描述是否具有预测力。这些问题常被混为一谈。我们将它们整合进单一流程,并报告若干实践创新。第一,跨种子字典稳定性用于优先排序哪些潜在特征值得投入资源研究。第二,入侵者检测任务用于判断某个潜在特征的激活样本是否共享可识别的模式。第三,一个独立环节提出候选生物学描述,我们将其转化为可在计算机上检验的可证伪预测。部署于 Boltz-1 Pairformer 主干上时,稳定性优先排序使每个可解释潜在特征所需的潜在特征评估次数约减少 4.4 倍,实测 LLM 成本降低 5.2 倍,同时找回超过一半的可解释潜在特征。然而我们注意到,在我们的设置中 LLM 评判器严重偏向一致的残基身份,而一个简单的过滤器——筛选氨基酸身份精确度高的特征——优于稳定性阈值法。这种更简单的方法还有一个好处:无需额外的 SAE 种子,但它究竟反映了一种真正有用的启发式,还是 LLM 评判器的局限,仍不确定。
中文由 AI 翻译,仅供参考,以原文为准。
来源:arXiv · Quantitative Methods · arxiv.org