Enhanced Short Text Modeling: Leveraging Large Language Models for Topic Refinement

本文是LLM系列文章，针对《Enhanced Short Text Modeling: Leveraging Large Language Models for Topic Refinement》的翻译。

摘要

为简短的文本（如推文和新闻标题）制作有效的主题模型对于捕捉社会动态的快速变化至关重要。然而，由于简短和缺乏上下文数据，传统的主题模型往往无法准确表示短文本的语义复杂性。在我们的研究中，我们利用大型语言模型 （LLM） 的高级功能引入了一种称为 “主题细化” 的新方法。这种方法并不直接参与主题的初始建模，而是专注于在挖掘主题后改进主题。通过采用提示工程，我们指导 LLM 消除给定主题中的离题词，确保仅保留与上下文相关的词或替换为语义上更适合的词。这种方法模拟了类似人类的主题审查和改进，从而提高了各种模型生成的主题的语义质量。我们对三个独特数据集的综合评估表明，我们的主题细化方法显着增强了主题的语义连贯性。

1 引言

2 提出的方法

3 实验

4 结论

本文探讨了使用 LLM 提高短文本主题建模质量的潜力。我们的创新机制 Topic Refinement 利用 LLM 的提示工程来识别和纠正提取主题中的语义入侵词。跨三个数据集和 7 个基本主题模型的广泛实