本文通过实验研究Langchain-ChatGLM模型中CHUNK_SIZE、VECTOR_SEARCH_TOP_K和VECTOR_SEARCH_SCORE_THRESHOLD参数对对话效果的影响。采用《深度学习入门：基于Python的理论与实现》为知识库，设计了20个问题进行测试。实验结果显示，尽管参数变化导致模型回答内容长度和服务器显存消耗有所改变，但对总体回答准确性无显著影响。此外，实验指出参数选取应考虑资源消耗，同时指出了实验存在的局限性，如知识库单一、评分主观性和模型历史对话的影响等。
1 已知可能影响对话效果的参数（位于configs/model_config.py文件）：
# 文本分句长度
SENTENCE_SIZE = 100
# 匹配后单段上下文长度
CHUNK_SIZE = 250
# 传入LLM的历史记录长度
LLM_HISTORY_LEN = 3
# 知识库检索时返回的匹配内容条数
VECTOR_SEARCH_TOP_K = 5
# 知识检索内容相关度 Score, 数值范围约为0-1100，如果为0，则不生效，经测试设置为小于500时，匹配结果更精准
VECTOR_SEARCH_SCORE_THRESHOLD = 0
其中可能对读取知识库影响较大的变量有CHUNK_SIZE（单段参考上下文的长度
1213
1355
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
最低0.47元/天 解锁文章
