面试问题记录（RAG方向）

最新推荐文章于 2025-04-10 23:26:38 发布
最新推荐文章于 2025-04-10 23:26:38 发布
阅读量1.2k 收藏 3
点赞数 4
文章标签： nlp 面试 gpt
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gz927cool/article/details/138138684
版权
本文讨论了一个项目中采用的大模型，涉及英语和中文语料的处理，结合了BM25和向量检索技术。重点讲解了实体召回、嵌入模型微调、问答模型调整以及LORA原理的应用。同时提到在处理冗余信息和多样抽取目标时的优化策略，以及对NL2SQL的理解。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

  1. 简单自我介绍
  2. 项目中使用了什么大模型? 语料是英文多还是中文多?
  3. 项目中使用了哪种检索方法？
    BM25和向量方法如何结合?
    使用BM25使用了什么分词器??
    有没有针对特定实体进行召回??
    还使用了哪些技巧来提升召回的效果??
  4. 向量召回时使用的嵌入模型是什么??
    有没有对用于向量方法召回的模型进行微调??
  5. 有没有对问答模型进行微调?
    使用了什么微调方法?
    采用了什么手段来提升微调效果??
    简要说明LORA的原理??
    了解ptuning或其它的微调方法吗??
  6. 是否使用了Llamalndex?
    没有使用的原因??
  7. 进行 信息抽取 时，文本中冗余信息较多，抽取目标种类也很多，这种情况使用大模型进行抽取有哪些优化思路??
  8. 是否了解过 NL2SQL?
gz927cool
关注
NLP高频面试题（四十九）——大模型RAG常见面试题解析
WeLearnNLP
04-21 183
RAG系统通过结合信息检索和生成模型，解决了LLM在知识更新、幻觉和上下文限制等方面的挑战。：需要频繁更新知识库、处理多任务、快速部署的应用，如企业知识问答系统。：特定任务性能要求高、数据稳定的应用，如法律文书生成、医学诊断等。：先使用一种检索方式，结果不理想时再使用其他方式。：将问答对向量化，存入数据库，支持相似度检索。：同时使用关键词检索和向量检索，获取多种结果。：将处理后的信息输入LLM，生成最终答案。：根据各自的置信度，对结果进行加权排序。：使用训练好的模型，对合并结果进行精排。
大模型RAG面试篇：难点、痛点、常见面试题汇总
Code1994的博客
08-20 2961
这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。达到L4级别也就意味着你具备了在大多数技术岗位上胜任的能力，想要达到顶尖水平，可能还需要更多的专业技能和实战经验。在面试中，准备这些问题的答案可以帮助展示你对RAG技术的深入理解和解决实际问题的能力。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。
吐血整理！！AI大模型面试必看的LLM RAG面试问题大全！不看后悔一辈子
bugyinyin的博客
02-18 987
总之，RAG证明了AI改变我们世界的无限潜力。它可以改善人类体验，并推动机器在自然语言理解方面所能达到的极限。它不仅仅是技术上的突破。无论您是为AI面试做准备，还是只是对AI未来的发展感兴趣，了解RAG都是一段值得的旅程。它将为您在人工智能这个激动人心的领域中带来新的和创造性的可能性。为了助力朋友们跳槽面试、升职加薪、职业困境，提高自己的技术，本文给大家整了一套涵盖AI大模型所有技术栈的快速学习方法和笔记。目前已经收到了七八个网友的反馈，说是面试问到了很多这里面的知识点。
一文说透RAG系统研发方向和测试方向，请慎重查看(商用请获得授权)
主攻大数据 人工智能 物联网 安全 低空经济等方向。mtsc 、gtest特邀分享嘉宾
04-07 779
GraphRAG：通过知识图谱增强检索，解决传统 RAG 的语义碎片化问题，例如在金融领域构建 “公司 - 产品 - 风险” 关系网络。RAGChecker：细粒度评估工具，能定位检索召回不足（如声明召回率低）或生成幻觉（如错误药物剂量）PD 分离架构：预填充 - 解码分离部署，提升系统吞吐量（如 kimi 线上服务提升 5.25 倍）MoE 模型：稀疏激活专家网络，降低推理成本（如 DeepSeek-V3 仅激活 5.5% 参数）
大模型 RAG 面试篇
fan_fan_feng的专栏
01-19 2506
大模型 RAG面试题 收集一
TensorFlow相关组件的安装
AAI666666的博客
01-11 2646
TensorFlow相关组件的安装
LLM RAG面试问题大全！收藏这一篇轻松拿下offer！
z551646的博客
10-25 1452
A. 检索增强生成（RAG）是一种结合了基于检索的方法和生成模型来提高自然语言处理任务性能的方法。在RAG中，检索组件首先搜索大量文档，根据输入查询找到相关信息。然后，生成模型使用这些检索到的信息生成响应或输出。这种两步过程允许RAG利用检索方法的精确性和生成模型的灵活性。因此，它特别适用于需要基于外部知识理解和生成自然语言的任务。
大厂RAG面试真题大全！
musicml的博客
11-01 1169
—1—RAG 初级面试问题Q1. 检索增强生成（RAG）的定义是什么？A. RAG 是一种提升自然语言处理性能的技术，它结合了检索和生成模型。该方法先通过检索大量文档来定位相关信息，随后生成模型利用这些信息来构造回答。这种双阶段流程既利用了检索的精确性，又发挥了生成模型的创造性，特别适用于依赖外部知识生成自然语言的任务。Q2. RAG 与传统语言模型有何不同？A. 与依赖训练数据生成文本的传统语...
【面试必背】RAG技术全面解析：从原理到实践中的20个关键问题
最新发布
大F子的智能小课
04-10 1145
RAG通过检索与生成的有效结合，为大模型落地提供了实用路径。未来随着多模态技术和自动化评估的发展，RAG将在更多领域展现其价值。大家好，我是大 F，深耕AI算法十余年，互联网大厂核心技术岗。知行合一，不写水文，喜欢可关注，分享AI算法干货、技术心得。是一种结合检索技术与生成模型的技术。→ Query改写为“减少大语言模型的幻觉方法”→ 文本检索：产品描述中的“聚酯纤维+氨纶”；→ 图片检索：识别SKU对应的“红色连衣裙”；→ 表格检索：关联库存表格中的材质详情。用户问：“红色连衣裙的材质是什么？
大模型面经 | 春招、秋招算法面试常考八股文附答案（RAG专题三）
皮先生的博客
04-10 1243
在使用RAG时候，有哪些优化策略?
【记录贴 | 持续更新】搜广推/aigc 面试题记录
weixin_45724176的博客
08-11 1259
BERT基于Transformer的编码器（Encoder）架构，利用了多层的Transformer编码器来处理输入文本。是一种双向模型。BERT采用了“预训练+微调”的方法。它首先在大规模的文本语料库上进行无监督的预训练，然后通过监督学习在特定任务上进行微调。预训练MLM：随机遮盖输入文本中的一些单词，并要求模型预测这些被遮盖的单词。数据量：BERT会随机选择15%的单词，并用一个特殊的[MASK]标记替换其中的80%，用其他随机单词替换10%，保留原始单词的10%。NSP。
大模型转行记录
mama19971023的博客
07-23 790
另外，企业越来越不愿意去培养新人，我了解到的几年前入局的前辈，他们公司普遍给他们的宽容心更大，给他们的培训时间会更长。今年我再去见那个老哥，他说他们公司业绩不好，产品线已经在被裁的边缘了，而且这不是他个人的问题，而是行业的趋势。以金矿（大模型技术）为原点，所有人距离原点的远近是不同的，只有挖到金矿之前就在搞大模型的少数人是纯粹的“科班”，这些人包括：AI还处于相对冷门阶段时就在埋头默默做大模型的科研和应用的高校硕博、企业研发专家，而其他的所有人都不在金矿原点上，其他所有的人离金矿都有距离。
LLM RAG面试问题大全!
m0_59235945的博客
10-04 765
01.引言RAG在通用人工智能、数据科学和人工智能的发展领域中起到了变革性的作用。RAG模型让机器能够基于事实产生更准确、连贯和一致的语言，它改变了人类与技术的互动方式。RAG让能够撰写独特内容、引人入胜的产品描述和新闻文章的机器人概念成为现实。尽管RAG的重要性日益增加，但潜在的数据科学家和AI爱好者仍然需要获取全面的信息。本文通过提供20多个顶级RAG面试问题，填补了这一知识空白。02.RAG初级面试问题Q1. 什么是检索增强生成（RAG）？A. 检索增强生成（RAG）是一种结合了基于检索的方法和生成模
LLM-RAG相关常见面试题
sherwinzhang的博客
10-10 1064
LangChain为大型语言模型提供了一种全新的搭建和集成方式，通过这个强大的框架，我们可以将复杂的技术任务简化，让创意和创新更加易于实现。有点类似于神经网络开发与tensorflow/pytorch之间的关系。
2025年AI 工程师的 RAG 面试问题精选
ytt0523_com的博客
11-23 1028
混合搜索结合了密集和稀疏检索方法的优点。例如，您可以先使用 BM25 等稀疏方法，根据关键字快速查找文档。然后，使用 BERT 等密集方法通过理解文档的上下文和含义对这些文档进行重新排序。这样，您既可以享受稀疏搜索的速度，又可以享受密集方法的准确性，这对于复杂查询和大型数据集非常有用。后期分块是一种有效的方法，旨在解决传统分块方法在文档处理中的局限性。在传统方法中，首先将文档拆分成多个块，例如句子或段落，然后再应用嵌入模型。然后，将这些块单独编码为向量，通常使用均值池化为每个块创建单个嵌入。
面试问题记录（基础&RAG)
gz927cool的博客
04-30 322
算法工程师面试记录20240330，包括python基础\linux基础\RAG工程三个方面
面试被问RAG开发痛点，万能答法！
ytt0523_com的博客
09-14 1536
检索增强式生成（RAG）是一种使用检索提升语言模型的技术。具体来说，就是在语言模型生成答案之前，先从广泛的文档数据库中检索相关信息，然后利用这些信息来引导生成过程。这种技术能极大提升内容的准确性和相关性，并能有效缓解幻觉问题，提高知识更新的速度，并增强内容生成的可追溯性。RAG 无疑是最激动人心的人工智能研究领域之一。但 RAG 也并非完美，用户在使用时也常会遭遇一些「痛点」。
一文细数大模型 RAG 十二大痛点及解决方案
2201_75499313的博客
07-13 1630
暑期实习基本结束了，校招即将开启。不同以往的是，当前职场环境已不再是那个双向奔赴时代了。求职者在变多，HC 在变少，岗位要求还更高了。最近，我们又陆续整理了很多大厂的面试题，帮助一些球友解惑答疑，分享技术面试中的那些弯弯绕绕。检索增强式生成（RAG）是一种使用检索提升语言模型的技术。具体来说，就是在语言模型生成答案之前，先从广泛的文档数据库中检索相关信息，然后利用这些信息来引导生成过程。这种技术能极大提升内容的准确性和相关性，并能有效缓解幻觉问题，提高知识更新的速度，并增强内容生成的可追溯性。
我在大模型应用之RAG方向的探索、实践与思考
京东科技开发者
06-28 1297
大语言模型（LLM）在自然语言处理和自然语言理解方面取得了重大突破。大模型与应用场景的结合有助于可以在降低成本的同时提高效率。在具体场景的落地中，通用领域的大模型缺乏具体的领域知识，需要对其进行微调，这将消耗大量的计算资源。当前，检索增强生成（RAG）作为大语言应用的一种模式，可以将大语言模型强大的理解能力和领域知识相结合，可以提高模型准确性和效率。RAG主要流程分为两步：1. 从知识库中检索出和问题相关的内容；2.将相关的知识拼接到prompt中，让LLM基于相关知识和用户问题进行回答。
rag面试
04-07
### 关于RAG（检索增强生成）的常见面试问题及其答案 #### 1. **什么是RAG（检索增强生成）？** RAG是一种结合信息检索和自然语言生成的技术，旨在通过动态检索外部数据来提高生成模型的质量。其核心思想是在生成过程中引入实时检索的相关文档片段，从而提升生成内容的准确性与多样性[^3]。 ```python def rag_process(query, retriever, generator): retrieved_docs = retriever.retrieve(query) # 检索相关文档 generated_answer = generator.generate(retrieved_docs) # 基于检索结果生成回答 return generated_answer ``` --- #### 2. **RAG的工作流程是什么样的？** RAG的工作流程主要包括以下几个部分： - 用户输入一个问题或查询。 - 检索器基于输入问题，在文档集合中找到相关的文档或段落。 - 对检索到的内容进行筛选，提取最相关的几条信息。 - 利用生成模型，将这些信息作为上下文，生成高质量的回答。 - 将最终生成的结果返回给用户。 --- #### 3. **RAG相较于传统生成模型的优势有哪些？** 相比传统的端到端生成模型，RAG具有以下优势： - 动态更新能力：由于依赖外部数据库，RAG可以随时获取最新的信息，而无需重新训练模型。 - 更高的精确度：通过检索真实世界的数据，减少了生成错误的可能性。 - 可解释性强：生成过程中的每一步都可以追溯至具体的检索结果[^1]。 --- #### 4. **构建RAG应用程序时可能遇到哪些挑战？** 构建RAG应用的主要挑战包括： - **集成复杂性**：需要协调多个模块（如检索器、生成器等），确保它们无缝协作[^2]。 - **可扩展性**：随着数据规模的增长，检索效率可能会下降。采用矢量数据库可以帮助解决这一问题[^4]。 - **数据质量问题**：如果检索到的数据不准确或存在噪声，则会影响最终生成的效果。 --- #### 5. **如何优化RAG系统的性能？** 可以通过以下方法优化RAG系统的表现： - 提升检索质量：改进检索算法，增加召回率的同时减少误报率。 - 改善生成效果：微调生成模型参数，使其更好地适应特定领域的需求。 - 缓解延迟问题：利用缓存机制存储高频请求的结果，降低响应时间。 - 数据清洗与标注：确保用于检索的语料库经过严格筛选，剔除低质量内容。 --- ### 示例代码展示RAG基本框架 以下是简化版的RAG实现逻辑： ```python class Retriever: def retrieve(self, query): # 实现具体检索逻辑 pass class Generator: def generate(self, context): # 实现具体生成逻辑 pass def run_rag(query, retriever: Retriever, generator: Generator): docs = retriever.retrieve(query) answer = generator.generate(docs) return answer ``` ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值