AI 代理何时应当提问？有限人类注意下的澄清请求

AI 智能体越来越多地并行执行被委派的任务，由一个人同时监督其中若干个。在实践中，智能体常常缺少其任务所需的信息，例如未明确说明的偏好、约束或规格。它可以请人类澄清，也可以自行搜索信息，例如在过往记录中查找，但这需要时间和精力，而且可能失败。本文研究如何在共享同一个注意力有限的人类的若干智能体之间协调这些决策。我们构建了一个风格化模型，其中每个智能体可以搜索、询问，或继续执行其任务中不依赖于缺失信息的部分，并将该问题表述为动态规划。我们首先表明，智能体是否应当询问不仅取决于其自身的不确定性：有其他工作要做的智能体更早询问可能更有利，而人类应先回答哪个问题取决于所有等待中的问题，因此逐个智能体计算出的排序都不是最优的。随后我们提出成对协调策略（Pairwise Coordination Policy, PCP），它利用精确的单任务和双任务问题来估计当两个任务共享人类时彼此造成的延迟。在理论上，当至多两个需求仍未解决时，PCP 恰好最优；当每个未解决的需求都必须由人类解决时，其成本至多为最优成本的两倍。我们在 864 个合成案例以及一项使用 LLM 智能体的案例研究中评估了 PCP。在合成基准上，PCP 与最优成本的平均差距为 0.07%，并且相对于三条关于何时询问的标准规则，平均降低成本 18–31%。在 LLM 案例研究中，智能体正确完成了每一项任务，且 PCP 在所有测试设置下均取得了最低的平均成本。

中文由 AI 翻译，仅供参考，以原文为准。