RAG——如何选择文本embedding模型

最新推荐文章于 2025-03-08 10:56:19 发布
最新推荐文章于 2025-03-08 10:56:19 发布
阅读量1.8k 收藏 10
点赞数 8
分类专栏： NLP RAG 文章标签： embedding 如何选择文本嵌入模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/star1210644725/article/details/135439526
版权
本文探讨了在进行语义检索时如何选择HuggingFace平台上的文本嵌入模型，推荐参考模型排行榜，依据场景、资源和语言需求进行个性化选择，并可能需要进一步测试以确保满足需求。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

想要做语义检索，迫切需要embedding模型来做文本的嵌入。也就是转向量。 huggingface上那么多text embedding模型，到底应该选择什么模型效果更好呢？有条件的可以自己测试，如果不具备这个能力，可以看看这个排行榜！可以根据自己的场景，自己的资源，自己的语言需求来选择合适的模型，再去做测试，看看是否能够满足。

这里是hugging face上的文本嵌入模型的排行榜

https://huggingface.co/spaces/mteb/leaderboard

大模型——RAG进阶 Embedding Models嵌入式模型原理和选择
04-24 359
主要用于训练和评估模型：根据一段文章回答相关的问题。**BGE-M3：**北京智源研究院开发，支持多语言、混合检索（稠密+稀疏向量），处理 8K 上下文，适合企业级知识库。**NV-Embed-v2：**基于 Mistral-7B，检索精度高（MTEB 得分 62.65），但需较高计算资源。**训练方法：**对比学习（如 Word2Vec 的 Skip-gram/CBOW）、预训练+微调（如 BERT）。**上下文依赖：**现代模型（如 BGE-M3）动态调整向量，捕捉多义词在不同语境中的含义。
大模型——使用 Embedding 模型和向量数据库的 Spring AI RAG
03-06 3253
本文介绍了如何使用 Embedding API 将文本或文档转换为Embedding，以及如何使用向量数据库来存储和检索Embedding信息。最后，还实现了 RAG（检索增强生成），通过检索到的信息来使用 AI 模型回答问题。
高级RAG(一)：Embedding模型的选择
weixin_42608414的博客
12-21 9804
今天我们测试了openai,gemini,baai它们的embedding模型，我们发现baai的embedding模型表现最为优秀，它检索出了所有的相关文档，而gemini的embedding模型表现最差，它机会都没有检索出任何相关文档，我并不清楚这是什么原因造成的。
大模型应用落地：如何选择合适的 Embedding 模型？
musicml的博客
06-28 972
▼最近直播超级多，预约保你有收获—0—背景落地在生成式人工智能(GenAI)领域，检索增强生成(RAG)作为一种策略脱颖而出，它通过集成外部数据来扩充像 ChatGPT 这样的大型语言模型(LLM)的现有知识库。RAG 系统核心涉及三种关键的人工智能模型组件：嵌入(Embedding)模型负责将信息转化为数学向量，重排名(Reranker)模型则用于优化搜索结果，而强大的基础语言模型确保了丰富的语...
AI大模型应用落地：如何选择合适的 Embedding 模型？看完你就懂了！！
最新发布
Android23333的博客
03-08 827
在生成式人工智能(GenAI)领域，检索增强生成(RAG)作为一种策略脱颖而出，它通过集成外部数据来扩充像 ChatGPT 这样的大型语言模型(LLM)的现有知识库。 RAG 系统核心涉及三种关键的人工智能模型组件：嵌入(Embedding)模型负责将信息转化为数学向量，重排名(Reranker)模型则用于优化搜索结果，而强大的基础语言模型确保了丰富的语境理解和生成。 本篇文章旨在指导您依据数据特性及目标领域，比如：金融专业，来挑选最合适的嵌入模型，从而最大化 RAG 系统的效能与准确性。
LLM大模型：如何选择合适的 Embedding 模型？
AAI666666的博客
06-29 2329
检索增强生成（RAG）是生成式 AI （GenAI）中的一类应用，支持使用自己的数据来增强 LLM 模型（如 ChatGPT）的知识。RAG 通常会用到三种不的AI模型，即 Embedding 模型、Rerankear模型以及大语言模型。本文将介绍如何根据您的数据类型以及语言或特定领域（如法律）选择合适的 Embedding 模型。HuggingFace 的是一个一站式的文本 Embedding 模型榜！您可以了解每个模型的平均性能。
开发RAG应用，你必须知道的7个Embedding模型
python12345_的博客
06-28 6064
在自然语言处理（NLP）领域，Embedding模型是将文本数据转化为数值向量的核心技术，从而让计算机能够便捷地衡量文本间的语义关联，这种表示法已成为多种基础NLP任务的核心，如文本相似度判定、语义搜索、信息检索、文本重新排序、聚类以及作为下游任务的特征输入。
Embedding 模型的选择和微调
python1234567_的博客
06-14 4269
万物皆可 Embedding。在推荐系统、自然语言处理和计算机视觉等领域，Embedding 是一个非常重要的概念。Embedding 的本质是一种将高维稀疏数据转换为低维稠密向量的技术，通过这种转换，能够捕捉数据中的语义或特征关系。具体来说，Embedding 用一个多维稠密向量来表示事物的多维特征，从而在一个连续的向量空间中刻画事物之间的相似性和差异性。这种表示方式不仅提高了计算效率，还增强了模型对数据内在结构和关系的理解能力。
手工微调embedding模型，让RAG应用检索能力更强
python122_的博客
06-24 4218
在本文中，我们探讨了微调RAG管道的Embedding模型所涉及的步骤。我们使用开源的模型作为我们的基本Embedding模型，介绍了如何生成用于训练和评估的数据集，如何对其进行微调，以及如何评估基本模型和微调模型之间的性能差异。评估结果表明，微调Embedding模型的性能比基本模型提高了1-6%，与OpenAI的Embedding模型相比，微调模型的性能损失仅为4.85%。这种性能提升可能因数据集的质量和数量而异。
如何使用OpenAI文本Embedding模型构建AI系统
ZILLIZ
10-17 2050
01.Embeddings 向量与 Embedding 模型简介Embedding 向量是人工智能（AI）中的一个核心概念，它将复杂的非结构化数据（如图像、文本、视频或音频文件等）以机器可以理解和处理的数值向量来表示。这些向量能够捕捉数据中的语义含义和关系，帮助 AI 模型更有效地分析、比较和生成内容。在自然语言处理（NLP）领域中，单词、句子或整个文档被转换为稠密向量，这样一来，算法不仅能够理解...
《向量数据库》——PyMilvus Cloud与 Embedding 模型集成
实战AI智能体
07-04 1101
Milvus Cloud 是一款专为 AI 应用设计的开源向量数据库。无论是机器学习、深度学习还是其他与 AI 相关的项目，Milvus Cloud 向量数据库都能提供强大高效的大规模非结构化数据处理解决方案。现在，Milvus Cloud 的 Python SDK——PyMilvus Cloud 中已集成模型模块，支持直接添加 Embedding 和重排（Reranker）模型，大幅简化了将数据转化为向量以及对搜索结果进行重排的流程，十分适用于检索增强生成（RAG）应用。
深入理解RAG：什么是Embedding Model？Embedding Model的作用，RAG引擎中的工作流
老皮的博客
03-06 680
在学习嵌入模型之前，我们需要先了解什么是Embedding。简单来说，Embedding是一种将离散的非结构化数据（如文本中的单词、句子或文档）转换为连续向量的技术。在自然语言处理（NLP）领域，Embedding通常用于将文本映射为固定长度的实数向量，以便计算机能够更好地处理和理解这些数据。每个单词或句子都可以用一个包含其语义信息的向量来表示。Embedding常用于将文本数据映射为固定长度的实数向量，从而使计算机能够更好地处理和理解这些数据。每个单词或句子都可以用一个包含其语义信息的实数向量来表示。
Embedding 模型一览 选择 及使用
2301_81940605的博客
12-11 929
MTEB 不仅给我们展示了 OpenAI、Cohere 和 Voyager 等流行嵌入的性能，还告诉我们一些开源模型也有相近的性能水平。但是，我们要注意，这些结果只是一个大概的概览，可能不能准确反映这些嵌入在我们的领域和上下文中的表现。所以，在最终选择之前，我们必须对我们的数据集进行深入的评估，强调定制评估方法的重要性。
大模型入门实战：通过 HuggingFace 调用 Llama3
python12345_的博客
01-10 1442
至此，我们成功演示了如何通过 Hugging Face 的 Transformers 调用 Llama 模型，并获取了模型的回答。但是如果你的需求只是简单地调用模型，而无需进行微调或复杂的部署，可以尝试使用 Ollama。它不仅操作更加便捷，还提供了开箱即用的 RESTful 接口，适合快速集成到生产环境中。下一篇，我将会讲解如何通过 Ollama 下载部署 Llama 模型并调用。
一文把 RAG 每步的技术难点说明白
m0_59164304的博客
06-24 1227
检索出来的结果在给大模型之前，还要 prompt 优化，包括 prompt 加上 step by step ，针对场景的加上相应的提示词等。最后的结果依赖大模型的理解，生成，逻辑推理能力。大模型能力的强弱也直接决定 RAG 的效果。所以大家会看到要把 RAG 作为大模型应用目前主要落地场景，但还是有非常多改进的空间的，这方面的创业公司也很多，技术发展也很快，机会很多。现在典型的 RAG框架有 dify，FastGPT ，百度智能云的 App builder等，大家都可以去试一试。
RAG 之 Embedding 模型 （一）
Muti-Agent
06-01 2474
M3E 是 Moka Massive Mixed Embedding 的缩写。Moka，此模型由 MokaAI 训练，开源和评测，训练脚本使用 uniem ，评测 BenchMark 使用 MTEB-zhMassive，此模型通过千万级 (2200w+) 的中文句对数据集进行训练；Mixed，此模型支持中英双语的同质文本相似度计算，异质文本检索等功能，未来还会支持代码检索；Embedding，此模型是文本嵌入模型，可以将自然语言转换成稠密的向量。
AI大模型 RAG embedding
02-02
### AI 大型模型中的 RAG 技术及其 Embedding 使用 #### 嵌入层的作用与实现方式 嵌入（Embedding）在检索增强生成(Retrieval-Augmented Generation, RAG) 中扮演着至关重要的角色。通过将离散的文本转换成连续...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值