语义检索-BAAI Embedding(bge-large-zh-v1.5)语义向量模型深度解析:预训练至精通、微调至卓越、评估至精准、融合提升模型鲁棒性
语义向量模型(Embedding Model)已经被广泛应用于搜索、推荐、数据挖掘等重要领域。在大模型时代,它更是用于解决幻觉问题、知识时效问题、超长文本问题等各种大模型本身制约或不足的必要技术。然而,当前中文世界的高质量语义向量模型仍比较稀缺,且很少开源。为加快解决大模型的制约问题,近日,智源发布最强开源可商用中英文语义向量模型BGE(BAAI General Embedding),在中英文语义检索精度与整体语义表征能力均超越了社区所有同类模型,如OpenAI 的text embedding 002等。此外,BGE 保持了同等参数量级模型中的最小向量维度,使用成本更低。
- bge-*-v1.5向量模型,缓解相似度分布问题,提升无指令情况下的检索能力(但检索任务仍建议使用指令)
- LM-Cocktail, 一种通过模型融合在微调时保持原有模型通用能力的方法
资料下载:FlagEmbedding专为大语言模型各种检索增强任务设计的向量模型