社会信号主导临床医生对医疗AI的信任

准确性与结果数据常被视为自动化信任的主要决定因素。我们以临床医生使用社会认知线索评估人工智能（AI）的视角，检验这一假设。我们提出 SPOT（协同过程-结果信任，Synergistic Process-Outcome Trust），这是一个贝叶斯框架，将信任建模为根据结果信号与过程信号对智能体潜在属性的推断。在一项被试内情境实验研究中，275 名西班牙医疗专业人员评估了 16 个临床 AI 情境，这些情境变化了三种结果信号（准确性、干预时机、预后）和五种过程信号（界面熟悉度、可解释性、团队共识、监督、个性化）。评分采用线性混合模型和按被试交叉验证进行分析。过程信号主导了信任的形成。界面熟悉度（beta = 0.71）、团队共识（beta = 0.64）和可解释性（beta = 0.63）产生了较大效应，p 值均低于 .001，而陈述的准确性仅产生较小效应（beta = 0.10）。过程信号占总绝对效应量的 80.3%，结果信号占 19.7%。信任基线高度个体化，且难以从人口学变量中恢复（按组交叉验证下 R-squared = 0.06）。临床医生似乎将 AI 系统视为智能体，其可信度既需要技术验证，也需要社会验证。因此，构建可信的临床 AI 涉及社会、制度和技术因素。

中文由 AI 翻译，仅供参考，以原文为准。