目录
前导篇
Python
向量数据库
实战篇
LangChain
在本地搭建部署开源模型
提高篇
机器学习基础
深度学习基础
NLP 基础知识
了解LLM的3个分支和发展史
深入篇
本篇文章面向对大模型领域感兴趣,又不知如何下嘴的程序员。
看一下围绕大模型的应用场景和人才需求:
Prompt工程:基于提示词对大模型的使用,会问问题就行。
基于大模型的应用(狭义的):通过预设一些Prompt的方式做业务层应用,俗称大模型套壳。AI主播、AINPC、AI小助手。。。之前是会调API就行。现在有了GPTs,连调用API都可以不用了,动动嘴就可以实现应用生成。
私有知识库:用RAG技术给大模型配个“资料袋”——大模型外挂向量数据库。
AI Agent:给大模型“大脑”装上记忆体、手和脚,让它可以作为智能体进行自主决策、任务拆解和执行。
微调大模型:基于基座大模型的Fine Tuning。
训练大模型:大模型训练,高端赛道的角逐。
因此普通程序员研究大模型,不妨选择从外到内的思路,从套壳应用,再了解部署、微调和训练。
前导篇
Python
Python:AI领域最常用的编程语言。要学会基础语法、数据结构等。Python不难,对于一般程序员来说很容易上手。
向量数据库
随着AI的发展进入新的时代,知识的存储和表示就和向量分不开了。向量这个数学表达,在目前是人与AI交互的中间媒介。 向量数据库是一种特殊的数据库,它以多维向量的形式保存信息。让大模型拥有“记忆”,就需要用到向量数据库。
常见的向量数据库包括:Chroma、ES、FAISS、Milvus等,需要了解和会用。
实战篇
LangChain
要将大语言模型的能力开发成产品,就需要LangChain帮忙了。LangChain 是一个 LLM 编程框架,它提供了一套工具、组件和接口,借助LangChain,我们可以更加便利地给大模型这个“大脑”装上记忆和四肢,更轻松地完成基于大模型的应用开发。
比如带有私有知识库的办公助手等AI Agent,都可以借助LangChain来完成。
LangChain主要支持6种组件:
Models:模型,各种类型的模型和模型集成
Prompts:提示,包括提示管理、提示优化和提示序列化
Memory:记忆,用来保存和模型交互时的上下文状态
Indexes:索引,用来结构化文档,以便和模型交互
Chains:链,一系列对各种组件的调用
Agents:代理,决定模型采取哪些行动,执行并且观察流程,直到完成为止
最近又更新了LangGraph,用于创建多Agent应用。
可以结合市面上的一些开源项目学习Langchain。
在本地搭建部署开源模型
从零入门大模型技术,其实还是有点门槛的,硬件资源就是一关,性能一般有限。但还是可以从参数规模较小的7B左右开源模型开启尝试。比如清华的GLM系列,meta的llama系列都可以。
另外也可以用Ollama工具,Ollama旨在简化在Docker容器中部署和管理大型语言模型(LLM)的过程。Ollama支持的模型库,连包Llama3都包括了,还是很香的。
如果嫌自己摸索太麻烦,正好最近有一个知乎知学堂联合AGI课堂推出的程序员的AI大模型进阶之旅免费公开课。
这个课正是为了适应当下AI大模型的发展而推出的,由几位业内大佬主讲,主要面向的就是想系统性学习AI大模型的同学。会带你深度解析此轮AI变革和以往有何根本不同,还能学习大模型相关的Langchain技术,以及如何fine-tune模型等。
如果嫌自己摸索太麻烦,正好最近有一个知乎知学堂联合AGI课堂推出的程序员的AI大模型进阶之旅免费公开课。
这个课正是为了适应当下AI大模型的发展而推出的,由几位业内大佬主讲,主要面向的就是想系统性学习AI大模型的同学。会带你深度解析此轮AI变革和以往有何根本不同,还能学习大模型相关的Langchain技术,以及如何fine-tune模型等。