arXiv · Human-Computer Interaction· Jillian Fisher, Thomas Richardson, Daniel W. Fisher 等 6 人
· 23 小时前
谁的护栏？用户身份塑造模型免责声明在缓解 LLM 政治说服中的有效性
Whose Guardrail? User Identity Shapes the Effectiveness of Model Disclaimers in Mitigating LLM Political Persuasion
预印本 · 尚未经过同行评审
AI 导读
预注册实验（N=1,586）发现，标明政治偏见的免责声明可减少说服但效果不持久，共和党人和高频 AI 使用者更易被说服。
摘要 · AI 翻译
政治偏见的 AI 能够改变用户的观点，但模型免责声明是否能防止这种说服仍不清楚。我们报告了一项预注册实验（N=1,586），考察免责声明设计和用户特征如何影响对政治偏见 AI 的易感性。我们变化了免责声明是指出政治偏见还是指出潜在的不准确性，以及是否包含解释。参与者在 LLM 对其政治观点有偏见的情况下完成了两项决策任务，结果在即时和一周后进行评估。指出政治偏见并包含解释的免责声明减少了说服，但效果因情境而异且未能持续。个体差异是更一致的预测因素：共和党人比民主党人更容易被说服，并在各项任务中报告更高的信任。同样，更频繁使用 AI 的参与者也更容易被说服，而自报 AI 知识更多的参与者则更不容易被说服。这些发现表明，通用免责声明是不够的：有效的保障措施必须考虑用户异质性和情境。
中文由 AI 翻译，仅供参考，以原文为准。
来源：arXiv · Human-Computer Interaction · arxiv.org