你的BGE模型用对了吗？

已于 2024-02-23 09:30:13 修改
阅读量2.1k 收藏 3
点赞数
分类专栏： LLM 分享 文章标签： RAG BGE embedding 知识库 语言模型
于 2024-01-13 16:48:11 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/haohaizijhz/article/details/135571607
版权
本文介绍了BGE模型在RAG场景中的应用，强调了embedding模型需要指令、关注分数排序而非绝对值以及reranker的重要性。使用BGE时，应在查询中添加指令以提高效果，注意相似度分数的排序意义，以及根据需求考虑是否使用reranker进行文档重排。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

众所周知Embedding模型可以将任何文本映射到低维密集向量，该向量可用于检索、分类、聚类或语义搜索等任务，也可以用于LLM的矢量数据库。

智源研究院开源的BGE(BAAI general embedding)模型已经屠榜多时了，且有力推动了知识库检索、聚类、分类等多种下游场景的发展。尤其是在大模型可快速落地的RAG(Retrieval Augmented Generation检索增强生成)场景，用好它显得尤为重要。但不同于其他类似的通用embedding模型，如果有些注意事项被忽视了，可能会使最终效果打些折扣。以下是实际应用BGE时应注意的3个要点。

1、embedding模型也需要指令了？

如果需要搜索与查询相关的段落，建议在查询中添加指令。项目官网建议在RAG场景，对短查询加上指令来获得其向量表示。通俗解释就是：在使用一个“短查询/问题”从知识库中查取相关的长文本时，建议给短查询加上指令。加粗提示：决定是否要加指令的最好办法是在具体任务下比较加和不加的表现。在所有场景下，都没有必要对文档、段落等长文本添加指令。代码示例如下：

from sentence_transformers import SentenceTransformer
queries = [&
了解本专栏 订阅专栏 解锁全文
第一次在公司调试BGE模型，谨以此篇记录学习过程
weixin_46101568的博客
08-30 2145
调试模型是一个复杂的过程，特别是看别人写好的代码，对应那种封装好的代码，站在公司的角度，是希望数据和模型都在本地。需要调整的地方很多。经过这么一个流程下来，也有很多的收获，学习了不少排错的方法，继续加油。
基于BGE模型实现RAG中查询queue的向量化
qq_65019236的博客
06-24 1233
BGE（Bidirectional Generative Embeddings）是一种文本生成模型，结合了生成模型和双向语言模型的特点。这种方法旨在利用生成模型的优势，如生成自然流畅的文本，同时结合双向模型的能力，可以更好地理解和利用上下文信息。具体来说，BGE的核心思想是结合自回归生成模型（如GPT系列）和双向编码模型（如BERT）。本项目中采用的编码模型是bge-large-zh-v1.5模型，BGE-large-zh-v1.5 是一种专为中文语言处理任务设计的大型预训练模型。2、初始化BGE模型。
【向量模型】 开源通用向量模型BGE （BAAI General Embedding）
weixin_42430947的博客
03-09 1864
BGE为各类信息检索及大语言模型检索增强应用而打造，本文从多个维度详细解析 BGE 的特点与应用
在 Hugging Face 上使用 BGE 模型进行文本嵌入
最新发布
qahaj的博客
03-22 297
文本嵌入是自然语言处理（NLP）中的一项核心任务，它将文本转换为向量形式，使得模型能够理解和处理语言数据。北京智源人工智能研究院（BAAI）开发的 BGE 模型是当前开源社区中效果优异的嵌入模型之一。这篇文章将介绍如何通过 Hugging Face 接口来使用 BGE 嵌入模型。
BGE模型
whaosoft143ai的博客
09-15 2283
当前，BGE 快速迭代推出 1.5 版本并公布多项更新，其中，BGE 首次开源 3 亿条大规模训练数据，帮助社区训练同类模型，推动该领域技术发展。坚持开源开放，促进协同创新，智源大模型技术开体系 FlagOpen BGE 新增 FlagEmbedding 新版块，聚焦于 Embedding 技术和模型，BGE 是其中明星开源项目之一。不同于向量模型需要输出向量，BGE-reranker 直接文本对输出相似度，排序准确度更高，可用于对向量召回结果的重新排序，提升最终结果的相关性。whaosoft aiot
【LLM-RAG】BGE M3-embedding模型（模型篇|混合检索、多阶段训练）
发现问题，并解决问题，批判性思维
02-16 1万+
M3-Embedding联合了3种常用的检索方式，对应三种不同的文本相似度计算方法。可以基于这三种检索方式进行多路召回相关文档，然后基于三种相似度得分平均求和对召回结果做进一步重排。 多阶段训练过程： 在这里插入图片描述 第一阶段：第一阶段的自动编码预训练采用的是RetroMAE，在105种语言的网页跟wiki数据上进行，从而获得一个基底模型 第二阶段：在第一个数据源的弱监督数据进行预训练，这阶段的损失损失只考虑基于稠密检索的对比学习损失。 最后第三阶段会在第二，三个数据源的监督数据进行训练，这阶段
部署并使用bge
热门推荐
qq_42669117的博客
11-10 1万+
我们希望我们的问题能embedding10个最相关的句子。使用如下数据集（由于是公司整理，暂时不会提供给公众）这些数据我们录入到emb11_0918_3694.txt文件中。执行以后下列图片，即为下载成功。使用命令：git clone。
RAG优化：向量模型（以BGE模型为例）蒸馏，量化，到处onnx模型
02-18
BGE模型（Byte-pair encoding-GPT Encoder）是RAG模型的一个变体，它采用了字节对编码技术来优化模型的输入输出表现，并且通常会结合GPT编码器以进一步提升其生成能力。在BGE模型的优化过程中，蒸馏是一种训练技巧，...
探索Hugging Face上的BGE模型：如何使用这些顶尖的开源嵌入模型？
afTFODguAKBF的博客
10-12 602
BGE模型是由北京智源人工智能研究院开发的开源嵌入模型，专注于生成高质量的文本嵌入。这些模型适用于各种自然语言处理任务，如文本分类、情感分析等。BGE模型是强大的工具，可以显著提升文本处理任务的精度和效率。Hugging Face官方文档BAAI官方资源库。
【深入探讨BGE模型：利用Hugging Face进行高效文本嵌入】
aesgga的博客
12-07 772
通过本文的介绍，相信您已经掌握了如何使用BGE模型进行文本嵌入的基本流程。BGE模型因其高效性能在各类AI应用中具有广泛的应用前景。进一步学习资源Hugging Face 文档Sentence Transformers 文档北京智源人工智能研究院官网。
llama_index微调BGE模型
qq_43814415的博客
05-01 3303
千问7b的模型差不多在性能和效果达到了一个中间值；使用llama_index微调向量模型是比较好操作，效果增长比较明显的；可以使用多种格式的数据进行微调；在文档切分中可以采用多种方法，调整块大小，还有重叠大小；在文档切分后可以进行去重，清洗等提高文档质量；可以优化大模型提示词，增加示例等；在构造完qa数据集后增加后处理环节，清洗质量不佳的问题。此次花了几个小时跑通了整个流程，对于微调的数据集结构、代码框架等有了更深的认识，后续将用更好、更多的数据进行微调。
BGE：智源研究院突破性中英文语义Embedding向量模型
nulifancuoAI的博客
11-27 6432
BGE模型的发布，标志着语义向量模型（Embedding Model）在搜索、推荐、数据挖掘等领域的应用迈入了一个新的阶段。总结来说，BGE模型的发布，不仅为中英文语义向量模型领域带来了一次重大突破，也为大模型生态基础设施建设提供了强有力的支持。值得一提的是，BGE模型在保持卓越性能的同时，并未增加模型规模与向量的维度，因而保持了相同的运行、存储效率。此外，BGE英文模型（BGE-en）在英文评测基准MTEB中同样展现了出色的语义表征能力，总体指标与检索能力两个核心维度均超越了此前开源的所有同类模型。
RAG之微调垂域BGE的经验之谈
qq_44193969的博客
10-25 1万+
随着大模型的爆火，很多垂域行业都开始使用大模型来优化自己的业务，最典型的方法就是RAG（检索增强生成）了。简单来说就是利用检索技术，找出与用户问题相关性最高的段落，再让LLM基于以上段落，去回答用户的提问。CSDN问答机器人。只不过当时是在SBERT模型上微调，也取得了不错的效果。这里我们使用的基座模型是。1、领导要求提高10%以上，没有标注数据的情况下，感觉还是很难的2、各位大佬要是有想法，欢迎在评论区留言一起讨论。
BGE向量和重排模型架构和训练细节
qq_43814415的博客
05-01 1万+
官方提供了挖掘难负样本的脚本，是从query召回的top2-100中随机抽取，正样本是top1。构造好数据集后，就可以继续做特定任务上的微调了。也可以使用llama_index微调，可以参考我的。
实战精选 | 在NPU上运行BGE embedding模型，提升RAG整体性能
OpenVINOCC的博客
06-30 2945
点击蓝字关注我们,让开发变得更有趣作者 | 杨亦诚排版 | 李擎介绍BGE全称是BAAI General Embedding，即北京智源人工智能研究院通用Embedding模型，它可以将任意文本映射到低维的稠密向量，在文本向量化任务中得到了广泛的应用。可以看到在C-MTEB中文排行榜中，BGE系列模型的综合能力名列前茅，而在MTEB排行榜所有小于500MB的模型列表中，基于相同模型结构的BGE英文...
智源发布最强开源可商用中英文语义向量模型 BGE，超越同类模型，解决大模型制约问题
丨汀、的博客
10-13 2670
智源发布最强开源可商用中英文语义向量模型 BGE，超越同类模型，解决大模型制约问题
使用Hugging Face进行BGE模型的操作：深入指南
srysduguho的博客
12-15 951
BGE模型是由北京智源人工智能研究院开发的优秀开源嵌入模型，适用于多种NLP任务。它具备强大的性能和广泛的适用性，通过Hugging Face平台，我们可以便捷地访问和使用这些模型。通过本文，我们了解了如何使用Hugging Face平台来操作BGE模型。Hugging Face官方文档BAAI官方主页深入嵌入模型的概念指南。
什么是BGE模型？
weixin_64911856的博客
11-13 1440
BGE模型的目标是成为中文世界的通用embedding模型，支持所有embedding使用场景，包括但不限于检索（retrieval）、重排（re-rank）、聚类（clustering）、分类（classification）、配对分类（pair-classification）等任务。BGE模型的一个重要成员是BGE-M3，它支持超过100种语言的语义表示及检索任务。BGE模型的训练数据由无标签数据和有标签数据组成，无标签数据使用了悟道等数据集，有标签数据使用了dureader等数据集。
ollama安装bge模型
03-22
<think>好的，我现在要解决的问题是用户询问如何在Ollama中安装BGE模型。首先，我需要明确Ollama是什么以及它支持的模型类型。Ollama是一个本地运行大型语言模型的工具，通常支持GGUF或GGML格式的模型。BGE模型（BAAI General Embedding）是北京智源人工智能研究院开发的文本嵌入模型，常用于生成文本向量。 接下来，我需要确认BGE模型是否直接支持Ollama。根据已有的知识，Ollama的官方模型库可能没有直接列出BGE模型。用户可能需要手动配置。这时候需要查看用户提供的引用资料，特别是引用[2]中提到使用Ollama和LangChain构建知识图谱，引用[3]提到连接Hugging Face加载预训练模型，这可能涉及下载模型文件并配置本地服务。 步骤可能包括：1. 从Hugging Face下载BGE模型文件，如GGUF格式；2. 创建Modelfile定义模型；3. 使用Ollama命令创建和运行模型。同时需要注意依赖项的安装，如引用[3]提到的正确安装依赖包，避免版本冲突。 需要验证这些步骤是否正确，是否存在潜在的坑，比如模型格式是否正确、路径是否正确、Ollama是否支持该格式。如果用户遇到问题，可能需要建议他们检查模型文件路径、日志错误，或者尝试不同的模型版本。同时，可以建议结合LangChain等工具使用，如引用[2]中的例子。</think>要在Ollama中安装BGE模型，需通过自定义模型配置实现。以下是具体步骤： ### 步骤说明 1. **获取BGE模型文件** - 从Hugging Face下载BGE模型的GGUF格式文件，例如`bge-small-en-v1.5-q4_0.gguf` - 使用命令： ```bash wget https://huggingface.co/TheBloke/bge-small-en-v1.5-GGUF/resolve/main/bge-small-en-v1.5-q4_0.gguf ``` 2. **创建Modelfile** - 新建`Modelfile`文件，添加以下内容： ```dockerfile FROM ./bge-small-en-v1.5-q4_0.gguf PARAMETER num_ctx 2048 ``` 3. **构建并运行模型** - 执行Ollama构建命令： ```bash ollama create bge -f Modelfile ollama run bge ``` - 成功后即可通过API调用该模型[^2][^3] ### 注意事项 - 模型文件需与Modelfile在同一目录 - 若出现版本冲突，按引用[3]建议重新安装依赖： ```bash pip install -r requirements.txt --no-deps ``` ### 验证安装 ```python from langchain_community.embeddings import OllamaEmbeddings embeddings = OllamaEmbeddings(model="bge") print(embeddings.embed_query("测试文本")) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

快乐的打字员

谢谢打赏~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值