Enhancing Textbook Question Answering Task with LLM and Retrieval Augmented Generation

本文是LLM系列文章，针对《Enhancing Textbook Question Answering Task with Large Language Models and Retrieval Augmented Generation》的翻译。

摘要

由于上下文和多模态数据的复杂性，教科书问答在人工智能中是一项具有挑战性的任务。尽管之前的研究已经显著改进了这项任务，但仍存在一些局限性，包括模型推理能力弱，无法在长时间的上下文中捕捉上下文信息。大型语言模型（LLM）的引入彻底改变了人工智能领域，然而，直接应用LLM往往会导致不准确的答案。本文提出了一种方法来处理TQA中的“领域外”场景，其中通过结合检索增强生成（RAG）技术将概念传播到不同的课程中，并利用迁移学习来处理长上下文和增强推理能力。通过对LLM模型Llama-2的监督微调和RAG的结合，我们的体系结构优于基线，在非图表多项选择题的验证集和测试集上分别实现了4.12%和9.84%的准确率提高。

1 引言

2 相关工作

3 书本问答数据集

4 信息检索

5 微调大语言模型，Llama2

6 实验和结果

7 结论

书本问答由于其复杂性在人工智能领域提出了重大挑战。随着新的大型语言模型（LLM）的引入，该领域正在迅速发展，从根本上改变了游戏的动态。本文仅关注TQA任务的文本部分，将视觉部分的集成留给未来的工作。我们依