本文是LLM系列文章,针对《Re-Search for The Truth: Multi-round Retrieval-augmented Large
Language Models are Strong Fake News Detectors》的翻译。
摘要
假新闻的泛滥对政治、经济和整个社会产生了深远的影响。虽然假新闻检测方法被用来缓解这一问题,但它们主要取决于两个基本要素:证据的质量和相关性,以及判决预测机制的有效性。传统方法通常从维基百科等静态存储库中获取信息,但受到过时或不完整数据的限制,尤其是对于新兴或罕见的声明。以其卓越的推理和生成能力而闻名的大型语言模型(LLM)为假新闻检测引入了一个新的前沿。然而,与传统方法一样,基于LLM的解决方案也要克服陈旧和长尾知识的局限性。此外,检索增强LLM经常遇到低质量证据检索和上下文长度限制等问题。为了应对这些挑战,我们引入了一种新颖的、可检索的改进LLM框架——这是同类框架中第一个自动和战略性地从网络来源中提取关键证据用于索赔验证的框架。采用多轮检索策略,我们的框架确保获得足够的相关证据,从而提高性能。在三个真实世界数据集上进行的综合实验验证了该框架相对于现有方法的优势。重要的是,我们的模型不仅提供了准确的判决,而且还提供了人类可读的解释,以提高结果的可解释性。