本文是LLM系列文章,针对《Can Large Language Models be Good Emotional Supporter?
Mitigating Preference Bias on Emotional Support Conversation》的翻译。
大型语言模型能成为良好的情感支持者吗?缓解情感支持会话中的偏好偏差
摘要
情绪支持会话(ESC)是一项旨在通过日常会话缓解个人情绪困扰的任务。鉴于其固有的复杂性和非直观性,ESConv数据集结合了支持策略,以促进生成适当的响应。最近,尽管大型语言模型(LLM)具有非凡的会话能力,但先前的研究表明,它们往往难以提供有用的情感支持。因此,这项工作最初分析了LLM在ESConv上的结果,揭示了在选择正确策略方面的挑战以及对特定策略的显著偏好。受此启发,我们探讨了LLM中固有偏好对提供情感支持的影响,因此,我们观察到,对特定策略表现出高度偏好会阻碍有效的情感支持,从而增强其预测适当策略的稳健性。此外,我们进行了一项方法学研究,以深入了解LLM作为熟练情感支持者的必要方法。我们的研究结果强调,(1)对特定策略的低偏好阻碍了情感支持的进展,(2)外部援助有助于减少偏好偏见,(3)LLM本身无法成为良好的情感支持者。这些见解为未来的研究提供了有希望的途径,以提高LLM的情商