跳到正文
原文
arXiv · Human-Computer Interaction· Amir Ghasemian, Homa Hosseinmardi, Upasana Dutta 等 4 人
· 2 天前

LLM 辅助重排序在推荐系统中实现细微目标

LLM-Assisted Reranking to Operationalize Nuanced Objectives in Recommender Systems

预印本 · 尚未经过同行评审

AI 导读

用真实 YouTube 轨迹重排序发现,纯个性化指令提升相关性但收窄意识形态暴露,提示级约束可减少有害内容暴露。

摘要 · AI 翻译

推荐系统塑造了我们所看到的信息,引发了人们对过滤气泡、激进化、极化和社交不平等的担忧。大语言模型(LLM)能够实现更强大的个性化,这可能加剧这些动态,然而大多数推荐系统是针对参与度或狭窄的准确率指标进行调优的,很少关注更广泛的社会影响。我们研究 LLM 辅助的重排序在提升个性化的同时,是否会无意中放大对意识形态上合意、极端或阴谋论政治内容的接触——这一风险已被理论化,但尚未得到实证刻画。利用真实的 YouTube 轨迹,我们通过对三个模型进行零样本提示,对平台的侧边栏候选内容进行重排序,并辅以一个嵌入基线,评估相关性、意识形态一致性与多样性,以及对阴谋论或极端主义内容的接触。我们发现:(i) 在纯个性化指令下,重排序提升了相关性,同时收窄了意识形态接触面,并且在三个模型中的两个上,会为此类历史用户推送问题内容;第三个模型对最具党派性的请求表现出更多拒绝,指向模型特定的防护机制;(ii) 轻量级的提示层面约束在全部三个模型上大幅降低了问题内容的接触,而经过正则化的重排序器在相关性上仍高于平台基线;(iii) 分别改变话题线索和党派线索的合成实验显示,二者之间不存在固定偏好:在堕胎和移民议题上话题占主导,而在话题信号较弱的选举议题上党派性则占据上风。我们的结果凸显了 LLM 在高风险政治推荐中操作化语境细微差别的能力,并强调有必要在准确率之外评估 LLM 辅助的个性化,并将提示设计视为一种承载价值的选择,而非中性的默认设置。

中文由 AI 翻译,仅供参考,以原文为准。

来源:arXiv · Human-Computer Interaction · arxiv.org

相关事件

PsyBrain 脑心前沿

让每一位脑科学探索者,都不再独行。