显著性图能在新医院标记胸片分类器错误吗？一项外部验证研究

显著性图被作为医学图像分类器的保障手段提出，但其能否在新医院揭示个体错误在很大程度上仍未得到检验。我们在 NIH ChestX-ray14 上训练了一个卷积网络和一个视觉 Transformer，并在训练医院以及美国和越南的两个外部站点，以放射科医师共识标签对每个模型的 303,768 个决策进行了评估。我们按解剖富集度（即归因在分割出的胸部区域内的面积归一化集中程度）对每个解释进行评分，并检验其能否在模型置信度之外检测出错误。Grad-CAM 定位发现的比例低于放射科医师（命中率最高为 0.575，而放射科医师为 0.888）。将富集度加入在训练医院校准的基于置信度的错误检测器，从未使其曲线下面积提升超过 0.011；而对于卷积网络，富集度与正确性之间的关系在不同医院之间发生反转，导致迁移后的检测器性能下降。部署监测应以模型置信度而非显著性为依据。

中文由 AI 翻译，仅供参考，以原文为准。