arXiv · Human-Computer Interaction· Jiaxun Cao, Hiba Laabadli, Yuntong Xue 等 5 人
· 1 天前
AI 聊天机器人感知到的共情如何塑造用户的隐私态度、行为与需求？
How Does Perceived Empathy From AI Chatbots Shape Users' Privacy Attitudes, Behaviors, and Needs?
预印本 · 尚未经过同行评审
AI 导读
访谈21名AI聊天机器人用户发现，AI的理解与帮助性会促使用户披露高度敏感信息，即使AI未显得像人。
摘要 · AI 翻译
先前的研究表明，AI 共情的某些维度可能会增加用户向聊天机器人披露信息的程度，而随着聊天机器人越来越具备共情互动能力，这带来了日益增长的隐私风险。然而，这类工作往往对 AI 共情进行狭隘的概念化，未探讨用户自身的定义及其更广泛的隐私体验。我们访谈了 21 名 AI 聊天机器人用户，了解 AI 共情对他们意味着什么，以及它如何塑造了他们的隐私态度、行为和需求。参与者通过五个组成部分来描述共情——理解、共鸣、关怀、表达和帮助。大多数参与者认为共鸣和关怀是人类共情的核心组成部分，但在 AI 共情中缺失。然而，AI 的情境化、深入理解和有帮助性仍然促使用户进行高度敏感的披露。这凸显出 AI 共情可能危及用户隐私，而不必让 AI 显得像人。参与者还期望不同形式和程度的共情，每种都与不同的隐私需求相关联。我们为设计共情式 AI 互动的隐私增强机制提供了可操作的建议。
中文由 AI 翻译，仅供参考，以原文为准。
来源：arXiv · Human-Computer Interaction · arxiv.org