下面的模型都能在huggingface上找到
Embedding模型:
/BAAI/bge-base-zh-v1.5
/BAAI/bge-base-en-v1.5
Rerank模型:
/BAAI/bge-reranker-base
LLM模型:
/THUDM/chatglm3-6b-32k
/deepseek/deepseek-llm-7b-chat
向量数据库:
faiss:非常简单,迁移非常方便,不用额外安装数据库,结合langchain直接在代码中就能管理数据库
使用langchain推荐的检索方法为:max_marginal_relevance_search_by_vector
milvus:非常强大,安装数据库比较麻烦,需要单独维护。