大模型（LLMs）算法工程师的面试题_大模型开发工程师面试问题(3)

最新推荐文章于 2024-09-23 10:47:49 发布

2401_84164576

最新推荐文章于 2024-09-23 10:47:49 发布

阅读量1k

点赞数 9

分类专栏：程序员文章标签：算法

本文链接：https://blog.csdn.net/2401_84164576/article/details/138438633

版权

程序员专栏收录该内容

186 篇文章 1 订阅

订阅专栏

本文探讨了基于LLM向量库的文档对话中的关键问题，如切分粒度控制、垂直领域性能、问答效果等，介绍了LangChain工具及其特点，涉及微调方法（如LoRA、QLoRA等），并讨论了大模型参数高效微调的策略。

摘要由CSDN通过智能技术生成

+ 2. 基于LLM+向量库的文档对话 思路是怎么样？
+ 3. 基于LLM+向量库的文档对话 核心技术是什么？
+ 4. 基于LLM+向量库的文档对话 prompt 模板 如何构建？
+ 1. 痛点1：文档切分粒度不好把控，既担心噪声太多又担心语义信息丢失
+ 2. 痛点2：在基于垂直领域 表现不佳
+ 3. 痛点3：langchain 内置 问答分句效果不佳问题
+ 4. 痛点4：如何 尽可能召回与query相关的Document 问题
+ 5. 痛点5：如何让LLM基于query和context得到高质量的response
+ 1. 避坑记录
+ 2. 本地知识库问答系统（Langchain-chatGLM）
+ 1. 什么是 LangChain?
+ 2. LangChain 包含哪些 核心概念？
+ 3. 什么是 LangChain Agent?
+ 4. 如何使用 LangChain ?
+ 5. LangChain 支持哪些功能?
+ 6. 什么是 LangChain model?
+ 7. LangChain 包含哪些特点?
+ 8. LangChain 如何使用?
+ 9. LangChain 存在哪些问题及方法方案？
+ 10. LangChain 替代方案？
+ 1. LangChain 中 Components and Chains 是什么？
+ 2. LangChain 中 Prompt Templates and Values 是什么？
+ 3. LangChain 中 Example Selectors 是什么？
+ 4. LangChain 中 Output Parsers 是什么？
+ 5. LangChain 中 Indexes and Retrievers 是什么？
+ 6. LangChain 中 Chat Message History 是什么？
+ 7. LangChain 中 Agents and Toolkits 是什么？
+ 1. LangChain 如何调用 LLMs 生成回复？
+ 2. LangChain 如何修改 提示模板？
+ 3. LangChain 如何链接多个组件处理一个特定的下游任务？
+ 4. LangChain 如何Embedding & vector store？
+ 1. LangChain 低效的令牌使用问题
+ 2. LangChain 文档的问题
+ 3. LangChain 太多概念容易混淆，过多的“辅助”函数问题
+ 4. LangChain 行为不一致并且隐藏细节问题
+ 5. LangChain 缺乏标准的可互操作数据类型问题
+ **大模型（LLMs）langchain 面**
+ **基于LLM+向量库的文档对话 经验面**

大模型（LLMs）参数高效微调(PEFT) 面
- 一、LoRA篇
  - 二、QLoRA篇
  - 三、AdaLoRA篇
  - 四、LoRA权重是否可以合入原模型？
  - 五、ChatGLM-6B LoRA后的权重多大？
  - 六、LoRA 微调优点是什么？
  - 七、LoRA微调方法为啥能加速训练？
  - 八、如何在已有LoRA模型上继续训练？
  - 1.1 什么是 LoRA？
  - 1.2 LoRA 的思路是什么？
  - 1.3 LoRA 的特点是什么？
  - 2.1 QLoRA 的思路是怎么样的？
  - 2.2 QLoRA 的特点是什么？
  - 3.1 AdaLoRA 的思路是怎么样的？
  - 一、为什么需要提示学习（Prompting）？
  - 二、什么是提示学习（Prompting）？
  - 三、提示学习（Prompting）有什么优点？
  - 四、提示学习（Prompting）有哪些方法，能不能稍微介绍一下它们间？
  - 4.4.1 为什么需要 P-tuning v2？
  - 4.4.2 P-tuning v2 思路是什么？
  - 4.4.3 P-tuning v2 优点是什么？
  - 4.4.4 P-tuning v2 缺点是什么？
  - 4.3.1 为什么需要 P-tuning？
  - 4.3.2 P-tuning 思路是什么？
  - 4.3.3 P-tuning 优点是什么？
  - 4.3.4 P-tuning 缺点是什么？
  - 4.2.1 为什么需要指示微调（Prompt-tuning）？
  - 4.2.2 指示微调（Prompt-tuning）思路是什么？
  - 4.2.3 指示微调（Prompt-tuning）优点是什么？
  - 4.2.4 指示微调（Prompt-tuning）缺点是什么？
  - 4.2.5 指示微调（Prompt-tuning）与 Prefix-tuning 区别是什么？
  - 4.2.6 指示微调（Prompt-tuning）与 fine-tuning 区别是什么？
  - 4.1.1 为什么需要前缀微调（Prefix-tuning）？
  - 4.1.2 前缀微调（Prefix-tuning）思路是什么？
  - 4.1.3 前缀微调（Prefix-tuning）的优点是什么？
  - 4.1.4 前缀微调（Prefix-tuning）的缺点是什么？
  - 4.1 前缀微调（Prefix-tuning）篇
  - 4.2 指示微调（Prompt-tuning）篇
  - 4.3 P-tuning 篇
  - 4.4 P-tuning v2 篇
  - 一、为什么需要适配器微调（Adapter-tuning）？
  - 二、适配器微调（Adapter-tuning）思路？
  - 三、适配器微调（Adapter-tuning）特点是什么？
  - 四、AdapterFusion 思路是什么？
  - 五、AdapterDrop 思路是什么？
  - 六、AdapterDrop 特点是什么？
  - 七、MAM Adapter 思路是什么？
  - 八、MAM Adapter 特点是什么？
  - 微调方法是啥？如何微调？
  - 为什么需要 PEFT？
  - 介绍一下 PEFT？
  - PEFT 有什么优点？
  - 微调方法批处理大小模式GPU显存速度？
  - Peft 和全量微调区别？
  - 多种不同的高效微调方法对比
  - 当前高效微调技术存在的一些问题
  - 高效微调技术最佳实践
  - PEFT 存在问题？
  - 能不能总结一下各种参数高效微调方法？
  - 大模型（LLMs）参数高效微调(PEFT) 面
  - 适配器微调（Adapter-tuning）篇
  - 提示学习（Prompting）
  - LoRA 系列篇
大模型（LLMs）推理面
- 1. 为什么大模型推理时显存涨的那么多还一直占着？
  - 1. 大模型在gpu和cpu上推理速度如何？
  - 1. 推理速度上，int8和fp16比起来怎么样？
  - 1. 大模型有推理能力吗？
  - 1. 大模型生成时的参数怎么设置？
  - 1. 有哪些省内存的大语言模型训练/微调/推理方法？
  - 1. 如何让大模型输出合规化
  - 1. 应用模式变更
大模型（LLMs）评测面
- 大模型怎么评测？
  - 大模型的honest原则是如何实现的？
  - 模型如何判断回答的知识是训练过的已知的知识，怎么训练这种能力？
大模型（LLMs）强化学习面
- 奖励模型需要和基础模型一致吗？
  - RLHF 在实践过程中存在哪些不足？
  - 如何解决人工产生的偏好数据集成本较高，很难量产问题？
  - 如何解决三个阶段的训练（SFT->RM->PPO）过程较长，更新迭代较慢问题？
  - 如何解决 PPO 的训练过程同时存在4个模型（2训练，2推理），对计算资源的要求较高问题？
大模型（LLMs）软硬件配置面
大模型（LLMs）训练集面
- SFT（有监督微调）的数据集格式？
  - RM（奖励模型）的数据格式？
  - PPO（强化学习）的数据格式？
  - 找数据集哪里找？
  - 微调需要多少条数据？
  - 有哪些大模型的训练集？
  - 进行领域大模型预训练应用哪些数据集比较好？
大模型（LLMs）显存问题面
大模型（LLMs）分布式训练面
大模型（LLMs）agent 面
- 如何给LLM注入领域知识？
  - 如果想要快速体验各种模型，该怎么办？
Token及模型参数准备篇
- 预训练数据 Token 重复是否影响模型性能？
  - SFT需要训练Token数？
LLMs 位置编码篇
- 6.1 ALiBi (Attention with Linear Biases) 思路是什么？
  - 6.2 ALiBi (Attention with Linear Biases) 的偏置矩阵是什么？有什么作用？
  - 6.3 ALiBi (Attention with Linear Biases) 有什么优点？
  - 6.4 ALiBi (Attention with Linear Biases) 被哪些 LLMs 应用？
  - 5.1 什么是长度外推问题？