面向易受影响心智的人机协作全机制设计

随着 AI 系统越来越多地部署在医疗等高风险领域，将人类专业知识与 AI 输出有效整合对于可靠决策至关重要。大量理论工作研究了人机协作（HAC）的最优机制，重点关注何时引入人类以及如何将其专业知识与 AI 预测相结合。然而，这些方法在很大程度上忽视了一个被实证证据强调的关键因素：人类判断容易受影响，并且会因 AI 输出的呈现方式而变化。例如，当 AI 系统将决策交由人类做出时，披露或隐藏 AI 预测会显著影响人类判断。此外，现有工作忽视了部署时的变异性，即条件（尤其是征询人类输入的成本）可能与训练期间观察到的情况存在显著差异。为应对这些挑战，我们引入了一个严谨且具有理论基础的、用于人机协作的框架，称为协作全机制设计，它基于一种新颖且计算高效的情境 bandit 变体，用于结果不可区分性的提升。特别地，我们将一类校准型结果不可区分性条件归约为加权校准，提供了一种新的时间效率结果，绕过了复杂协作方法和结果空间所导致的高维诅咒。我们的框架为人类易受影响性提供了有原则的刻画，并引入了一种统一的优化方案，使得无需重新训练即可在不同查询成本和评估目标下实现稳健且可适应的决策。我们在三种 HAC 设置中评估了该框架，考察了无需重新训练即可适应查询成本和预测目标的能力，并表明其诱导出的策略与所评估的基线表现相当或更优。

中文由 AI 翻译，仅供参考，以原文为准。