大模型应用开发基础

一、迎接AGI时代

AGI时代，AI无处不在，形成新的社会分层：

• AI使用者

• AI产品开发者

• 基础模型开发，训练基础大模型，或为大模型提供基础设施

二、AI产品开发者的核心能力模型

• 懂业务，就是懂用户、懂客户、懂需求、懂市场、懂运营、懂商业模式，懂怎么赚钱

• 懂 AI，就是懂 AI 能做什么，不能做什么，怎样才能做得更好，更快，更便宜，懂怎么用 AI 解决赚钱过程中的问题

• 懂编程，就是懂如何编写代码实现一个符合业务需求的产品，尤其是 AI 产品

三、大模型AI可以做什么

目前主流大模型：

英伟达 CEO 黄仁勋 2024 年 6 月 2 日在 Computex 上的演讲提到各种模态数据的统一支持：

四、大模型落地情况综述

目前来看，AI 没有创造新的使用场景，只是旧场景的增强。

1.助手类：

• ChatGPT

• Kimi Chat

• 文心一言

• 通义千问

• 智谱清言

• ……

2.搜索类：

• Perplexity

• 秘塔 AI

• Devv

3.情感陪伴类：

• Character.AI

• 星野

• Replika

4.定制 Agent：

• ChatGPT GPTs

• 扣子

• Dify

5.其他场景：

• 拍照答题

• Gauth

• Question AI

• 英语学习

• 多邻国

• 有道 Hi Echo

• 图像处理

• 美图秀秀

• Adobe Firefly

• 办公

• WPS AI

• Copilot for Microsoft 365

• 钉钉魔法棒

• 飞书智能伙伴

• 腾讯会议智能助手

• 编程

• GitHub Copilot

• 全家桶

• Google

• Microsoft

• 字节跳动

6.内部提效：

• 营销

• AI 做营销创意，人再加工

• AI 批量生产营销素材

• 多语言翻译

• 客服/销售

• 全 AI，适合本来没人做，AI 来补位

• 半 AI，适合本来有人做，AI 来提效

• 办公

• 内部客服

• 辅助决策

• 公文撰写/总结/翻译

• 知识库

• 情报分析

• BI

• 产品研发

• 创意、头脑风暴

• IT 研发提效

成功落地大模型五要素：

• 业务人员的积极

• 对 AI 能力的认知

• 业务团队自带编程能力

• 小处着手

• 老板的耐心

找落地场景的思路：

• 从最熟悉的领域入手

• 尽量找能用语言描述的任务

• 别求大而全。将任务拆解，先解决小任务、小场景

• 让 AI 学最厉害员工的能力，再让 ta 辅助其他员工，实现降本增效

五、大模型是怎样工作的？

通俗地说，它只是根据上文，猜下一个词（的概率）

略深一点的通俗原理，训练和推理是大模型工作的两个核心过程。用人类比，训练就是学，推理就是用。学以致用，如是也。

训练：

1. 大模型阅读了人类说过的所有的话。这就是「机器学习」

2. 训练过程会把不同 token 同时出现的概率存入「神经网络」文件。保存的数据就是「参数」，也叫「权重」

推理：

1. 我们给推理程序若干 token，程序会加载大模型权重，算出概率最高的下一个 token 是什么

2. 用生成的 token，再加上上文，就能继续生成下一个 token。以此类推，生成更多文字

再深一点点地说：

• 这套生成机制的内核叫「Transformer 架构」

• Transformer 是目前人工智能领域最广泛流行的架构，被用在各个领域

• Transformer 仍是主流，但并不是最先进的

六、用好 AI 的核心心法

把AI当人看， 这一点非常非常重要

1. 用「当人看」来理解 AI

2. 用「当人看」来控制 AI

3. 用「当人看」来说服别人正确看待 AI 的不足

具体来说：

1. 学习时当老师

2. 工作时当助手

3. 休闲时当朋友

七、大模型应用产品架构

八、大模型应用技术架构

1.纯 Prompt：

2.Agent + Function Calling

• Agent：AI 主动提要求

• Function Calling：AI 要求执行某个函数

• 当人看：你问 ta「我明天去杭州出差，要带伞吗？」，ta 让你先看天气预报，你看了告诉 ta，ta 再告诉你要不要带伞

3.RAG（Retrieval-Augmented Generation）

• Embeddings：把文字转换为更易于相似度计算的编码。这种编码叫向量

• 向量数据库：把向量存起来，方便查找

• 向量搜索：根据输入向量，找到最相似的向量

• 当人看：考试答题时，到书上找相关内容，再结合题目组成答案，然后，就都忘了

  

4.Fine-tuning（精调/微调）

当人看：努力学习考试内容，长期记住，活学活用。

九、如何选择技术路线

面对一个需求，如何开始，如何选择技术方案？下面是个不严谨但常用思路。其中最容易被忽略的，是准备测试数据。

值得尝试 Fine-tuning 的情况：

1. 提高模型输出的稳定性

2. 用户量大，降低推理成本的意义很大

3. 提高大模型的生成速度

4. 需要私有部署

十、如何选择大模型

尽可能的多尝试，选择最适合自己的。

附个图：

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓