面了字节大模型算法岗，被疯狂拷打。。。

这两天我们分享了很多大厂的算法岗面试真题，我发现大模型、AIGC、LLM相关的面试题特别多。要知道现在这类岗位需求增量非常大，而且很高薪！于是我整理了大模型面试高频题，希望对你有所帮助（资料库有数百道大模型题目，还有答案）。

1. 位置编码有哪些？

2. 介绍LoRA与QLoRA

3. RAG和微调的区别是什么？

4. 哪些因素会导致LLM的偏见？

5. 什么是思维链（CoT）提示？

6. Tokenizer的实现方法及原理

7. 解释一下大模型的涌现能力？

8. 解释langchainAgent的概念

9. langchain有哪些替代方案？

10. RLHF完整训练过程是什么？

11. RAG和微调的区别是什么？

12. 有了解过什么是稀疏微调吗？

13. 简述一下FlashAttention的原理

14. 画图说明 Transformer 基本流程

15. LLM预训练阶段有哪几个关键步骤？

16. RLHF模型为什么会表现比SFT更好？

17. LLaMA 模型为什么要用旋转位置编码？

18. DeepSpeed推理对算子融合做了哪些优化？

19. MHA，GQA，MQA三种注意力机制的区别是什么？

20. 为什么现在的大模型大多是 decoder-only 的架构？

21. 训练后量化（PTQ）和量化感知训练（QAT）与什么区别？

还特别整理15道Transformer高频面试题（资料库有数百道Transformer题目，还有答案）

1. 介绍Transformer和ViT

2. 介绍Transformer的QKV

3. 介绍Layer Normalization

4. Transformer训练和部署技巧

5. 介绍Transformer的位置编码

6. 介绍自注意力机制和数学公式

7. 介绍Transformer的Encoder模块

8. 介绍Transformer的Decoder模块

9. Transformer和Mamba（SSM）的区别

10. Transformer中的残差结构以及意义

11. 为什么Transformer适合多模态任务？

12. Transformer的并行化体现在哪个地方？

13. 为什么Transformer一般使用LayerNorm？

14. Transformer为什么使用多头注意力机制？

15. Transformer训练的Dropout是如何设定的？

校招已经开启！最新校招、实习、社招、教职信息、大厂面经和企业内推全都有！

以上的AI大模型面试集锦， 需要的小伙伴可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】