基于混合架构的大语言模型智能问答系统研究

摘  要

探讨了大语言模型在企业政企营销知识智能问答方向的研究与应用。在开发技术上，采用检索增强生成技术［1］，结合大模型微调、意图识别和向量库实现问答F1值初步达到78.21%，构建闭环知识图谱体系，将问答F1值提升到92.36%。在工程上，通过vLLM大模型加速机制提升系统性能，采取数据安全技术保障系统安全性，通过API及微服务模块化架构提升系统适配性及扩展性，并将系统应用于行业生产中，有助于加速大模型在企业中的应用落地。

  引  言     

随着人工智能（AI）技术［2］的飞速发展，以ChatGPT大语言模型［3］为代表的生成式人工智能技术（AIGC）已成为一种新的生产力，在提供客户服务、推动业务流程自动化以及优化用户体验等方面展现出巨大潜力［4］。智能问答是大语言模型技术应用的一个重要场景，生成式大语言模型不仅能回答问题，还能生成连贯、自然的语言回复，这一技术的应用大大增强了用户互动的自然性和流畅性。本研究选择智能问答作为大语言模型应用的落脚点，在企业内部政企产品营销指引场景中探索大语言模型的应用。

然而，尽管大语言模型在智能问答场景中展现了巨大潜力，但在实际应用中仍存在不少挑战和限制［5