arXiv · Human-Computer Interaction· Jacek Karolczak, Jerzy Stefanowski
· 2 天前
被忽视与未充分利用:原型是表格 XAI 中缺失的一环
Overlooked and Underutilized: Prototypes are the Missing Piece in Tabular XAI
预印本 · 尚未经过同行评审
AI 导读
作者主张原型应作为表格数据 XAI 的补充解释入口,原型部件可将相关特征归为语义单元以降低认知负荷。
摘要 · AI 翻译
可解释人工智能(XAI)常被应用于高风险的表格数据,但该领域仍严重依赖特征归因方法。尽管这些方法提供了技术层面的透明度,但评估数十个孤立特征会对非专家用户造成过高的认知负担。在本文中,我们认为原型仍被忽视且未得到充分利用,应将其整合为一种互补的、直观的入口,用于审计复杂的机器学习模型。尽管完整样例可作为基于原型的解释的直观基线,但我们强调原型部件对表格数据尤为有价值。通过将相关特征分组为有界子空间,原型部件在技术上体现了人类可理解的概念,用连贯的语义单元取代了孤立特征。我们通过两个主要视角支持这一整合。在认知层面,这些部件与Rosch的分类理论和Kahneman的系统1思维相一致,从而自然降低人类的认知负荷。随后,我们引入几何有效性三元组,以概念化原型为何能验证数据流形——这是现有方法常忽视的关键维度。我们认为,要使表格XAI真正易于理解,需要转向复合解释流水线,将直观的基于相似性的推理与严格的特性级审计相结合。本文最后概述了基于原型方法的开放挑战,并讨论了潜在解决方案以指导未来研究。
中文由 AI 翻译,仅供参考,以原文为准。
来源:arXiv · Human-Computer Interaction · arxiv.org