大语言模型（LLM）学习路径

剑圣土豆

于 2024-07-18 00:05:24 发布

阅读量81

点赞数

分类专栏：大模型学习文章标签：语言模型人工智能自然语言处理 nlp

本文链接：https://blog.csdn.net/weixin_42042056/article/details/140508613

版权

2 篇文章 0 订阅

订阅专栏

学习路径

入门篇：
- 了解大语言模型的基础知识和常见术语。
- 学会使用编程语言访问 OpenAI API 等常见大语言模型接口。
提高篇：
- 了解机器学习、神经网络、NLP 的基础知识。
- 了解 Transformer 、bert、GPT等以及典型 Decoder-only 语言模型的基础结构和简单原理。
- 了解大语言模型发展历史，以及业界主流模型（含开源模型）进展。
应用篇：
- 可以在本地环境搭建开源模型的推理环境。
- Prompt 工程。
- 使用已有框架（如Langchain）或自行开发，结合大语言模型结果，开发生产应用。
- RAG
- agent
- FuntionCalling
深入篇：
- 掌握 Continue Pre-train、Fine-tuning 已有开源模型的能力。
- 掌握 Lora、QLora 等低资源高效微调模型训练的能力。
- 掌握大语言模型微调以及预训练数据准备的能力。
- 深入了解大模型背后的技术原理。
- 了解生产环境部署大模型的相关技术点。
  读者可以根据自己需要选择对应的章节，如对大语言模型的原理不感兴趣，可只关注入门篇和应用篇。

关注