2024SDU项目实训周报-5.26

关于QAChain

编写QA_chain_self类，旨在实现一个不带历史记录的问答链，专用于金融问答应用。它利用向量数据库进行相似性搜索，并使用大型语言模型（LLM）生成答案。

2. 主要功能

• 问题检索：使用向量数据库（如Chroma）根据问题检索最相似的文档。
• 答案生成：调用预训练的LLM生成答案，并根据自定义的提示模板格式化答案。

3. 主要组件

• PromptTemplate：创建问题模板，定义问答的格式和约束。
• RetrievalQA：执行检索问答链，将检索和生成结合起来。
• Chroma：处理向量存储和检索相似文档。
• 自定义函数：model_to_llm用于将模型转换为LLM，get_vectordb用于获取向量数据库。

 实例化

qa_chain = QA_chain_self(model="your_model_name", temperature=0.5, top_k=5, file_path="path/to/files", persist_path="path/to/persist", api_key="your_api_key", embedding="openai", embedding_key="your_embedding_key")
result = qa_chain.answer(question="What is the current market trend?")
print(result)