代码0基础,5分钟能做一个大模型应用

我有一个朋友小张,最近在研究怎么让AI帮自己工作。

小张是汽车销售。把车卖出去以后,常常会收到客户的提问:

这个黄色图标什么意思?

防冻液添加入口在哪里?

辅助驾驶怎么打开?

小张是新技术爱好者,他就想,能不能让AI来回答客服问题,这样他省下的时间可以用来摸鱼学习?

常见的生成式AI虽然聪明,但难以胜任客服的工作。

比如小张问它们,某一汽车车型,按哪个按钮打开后备箱。

AI最多的指引,是让他去看说明书。

小张去请教了一位算法工程师。工程师解释:

这是因为大模型的训练数据不一定涵盖所有汽车,尤其是新款车型。AI有自己的局限性,让你看说明书已经是当下最合理的回答。

小张不甘心地想——「能不能让大模型学习最新的汽车说明书和汽车知识,然后准确回答客户问题?

算法工程师说:

这个需求不难,你可以分几个步骤完成:

1. 选择编程语言。首先,选择一个合适你的编程语言,比如Python;

2. 选择大语言模型,比如混元大模型;

3. 获取大模型的API访问权限;

4. 把汽车说明书,整理成一个结构化格式(如JSON、CSV等),汇集成专业文档;

5. 编写代码读取专业文档,输入给大模型;

6. 设计一个用户交互界面。

我的朋友小张说:「等一下,编程语言,我?」

小张继续问:「有没有不懂代码也能用的方法?」

铺垫到这里,这个广告不打就说不过去了

腾讯云大模型知识引擎,可以帮助小张这样的职场人士,把大模型的能力(理解自然语言、信息检索、对话交互等等)和企业的专属知识结合起来,解决工作中的具体问题。

知识引擎是一个PaaS平台,它就像一台预装好的电脑,打开就能使用,而不必自己先组装硬件、安装操作系统、安装软件等等。

知识引擎「预装」了许多模型和工具,使得小张不需要从写代码学起,而是直接把他电脑里的汽车说明书PDF文档都上传,让知识引擎「学习」后,变成一个专业的汽车客服。

腾讯云知识引擎内置的第一个能力,是用来加强「阅读」能力的。

一直以来,机器阅读PDF文档,都做不到像人类一样顺畅。如果你试过把PDF转成WORD文档,一定发现转换后的结果有顺序错乱、缺字漏字等问题。

腾讯云知识引擎内置的OCR文档解析大模型,把文档识别的准确率提升了 30%

它会进行版面分析,识别出文字、公式、表格、图片等元素,并进行元素排序,确保解析完的文档有正确的阅读顺序。

和我们小时候做语文阅读理解题目一样,知识引擎「阅读」之后,还要学会「理解」。

这就需要介绍知识引擎的第二个内置大模型——业内首个基于语义判断的知识切分大模型

它的能力是,把信息完整切分,分好类,这可以提高回答的完整性。

知识切分大模型可以自己理解整篇文章的一级、二级、三级段落,这基于它的语义理解、长上下文关联能力。

做阅读理解题目,把原文看懂之后,在原文找到答案的线索也是很重要的一步。

知识引擎内置也是一样,这就涉及到它的第三个能力——检索增强(RAG)技术

小张上传了上百份PDF文档(每份几百页)给知识引擎,知识引擎在文档中快速检索,定位到关键信息,这依赖内置的自研长文本Embedding 模型

**embedding(嵌入)**就是把将文本(词汇、短语、句子或整篇文档)转换成数值向量(一组数字)的方法,相当于是「降维」处理,「降维」之后,用数学的方法来处理它们的相似度就很方便。

举个例子,「猫在沙发上睡觉」、「沙发上有一只正在打盹的猫」这两句话的语法结构不同,但是在「降维」之后,它们在空间上的距离很近,大模型可以快速且准确地把它们「一网打尽」。

腾讯自研的长文档Embedding 模型,能支持复杂的长文本检索,包括上万行超大表格。在国际知名的 C-MTEB 榜单上,这个模型在 8 个中文任务上可以达到效果最优

复习一下刚刚的知识。

小张把PDF文档拖进知识引擎,知识引擎阅读文档后,把文档的信息分好类。当任何人向知识引擎提问,它就通过「降维」的方法,快速检索、找到对应的原文

接着,知识引擎就带着检索到的原文,加上最初的提问,重新排列组合,输入给大模型,「生成」回答

相当于,知识引擎听了提问者的问题后,在小张上传的知识库找到资料,把问题改得更明白(问题里面已经有了答案的线索),再发给大模型。

以这个问答为例。

我的朋友小张发了一张图片(是的,这里有能看懂照片的多模态大模型在起作用),问知识引擎,「背大宝剑的小人是什么意思?」

小张很自信,他觉得自己的问题描述很精准。

其实「背大宝剑的小人」这个描述并不准确,但是知识引擎收到后,把它改得准确了,再发给大模型。

大模型收到更准确的提示词之后,情商很高地说:「背大宝剑的小人」是汽车安全带指示灯……

在AI时代,我们都知道会写prompt(提示词)是一项重要的技能,问对了问题,大模型才能回答好问题。而知识引擎降低了写prompt的门槛,让你用大白话就可以调动大模型。

最重要的是,刚刚说的这些复杂过程,都发生在知识引擎内部。所以,我的朋友小张不必理解这个过程,他只需要在知识引擎的可视化的界面上拖拉、点击,上传自己的工作文档,就完成了一个AI助手的搭建

只需4个步骤,5分钟即可用知识引擎配置应用

除了小张这样的汽车行业从业者,金融、教育、文旅、零售等行业的从业者,也正在运用知识引擎,让大模型学习企业的专属知识,用来辅助工作。

知识引擎企业需求的阅读理解能力,带着答案问问题的能力,使它在知识问答上可以扮演客服、销售、辅导老师、助理等多种角色。

企业可以像我的朋友小张这样,在平台上直接使用知识引擎,也可以调用知识引擎的API接口(比如文档解析,向量检索,多轮改写等),更个性化地使用各种工具,这也只需要一些基础的代码能力。

相信随着技术的进步和行业的发展,不懂代码的普通人,可以通过和AI的直接交流,解决越来越多的问题。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

  • 9
    点赞
  • 27
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值