我代码0基础，5分钟能做一个大模型应用

最新推荐文章于 2024-09-10 19:48:32 发布

AIGC莹子

最新推荐文章于 2024-09-10 19:48:32 发布

阅读量1k

点赞数 16

文章标签： llama 人工智能搜索引擎语言模型深度学习

本文链接：https://blog.csdn.net/z551646/article/details/140998103

版权

我有一个朋友小张，最近在研究怎么让AI帮自己工作。

小张是汽车销售。把车卖出去以后，常常会收到客户的提问：

这个黄色图标什么意思？

防冻液添加入口在哪里？

辅助驾驶怎么打开？

小张是新技术爱好者，他就想，能不能让AI来回答客服问题，这样他省下的时间可以用来摸鱼学习？

常见的生成式AI虽然聪明，但难以胜任客服的工作。

比如小张问它们，某一汽车车型，按哪个按钮打开后备箱。

AI最多的指引，是让他去看说明书。

小张去请教了一位算法工程师。工程师解释：

这是因为大模型的训练数据不一定涵盖所有汽车，尤其是新款车型。AI有自己的局限性，让你看说明书已经是当下最合理的回答。

小张不甘心地想——「能不能让大模型学习最新的汽车说明书和汽车知识，然后准确回答客户问题？」

算法工程师说：

这个需求不难，你可以分几个步骤完成：

\1. 选择编程语言。首先，选择一个合适你的编程语言，比如Python；

\2. 选择大语言模型，比如混元大模型；

\3. 获取大模型的API访问权限；

\4. 把汽车说明书，整理成一个结构化格式（如JSON、CSV等），汇集成专业文档；

\5. 编写代码读取专业文档，输入给大模型；

\6. 设计一个用户交互界面。

我的朋友小张说：「等一下，编程语言，我？」

小张继续问：「有没有不懂代码也能用的方法？」

铺垫到这里，这个广告不打就说不过去了

腾讯云大模型知识引擎，可以帮助小张这样的职场人士，把大模型的能力（理解自然语言、信息检索、对话交互等等）和企业的专属知识结合起来，解决工作中的具体问题。

知识引擎是一个PaaS平台，它就像一台预装好的电脑，打开就能使用，而不必自己先组装硬件、安装操作系统、安装软件等等。

知识引擎「预装」了许多模型和工具，使得小张不需要从写代码学起，而是直接把他电脑里的汽车说明书PDF文档都上传，让知识引擎「学习」后，变成一个专业的汽车客服。

腾讯云知识引擎内置的第一个能力，是用来加强「阅读」能力的。

一直以来，机器阅读PDF文档，都做不到像人类一样顺畅。如果你试过把PDF转成WORD文档，一定发现转换后的结果有顺序错乱、缺字漏字等问题。

腾讯云知识引擎内置的OCR文档解析大模型****，把文档识别的准确率提升了 30%。

它会进行版面分析，识别出文字、公式、表格、图片等元素，并进行元素排序，确保解析完的文档有正确的阅读顺序。

和我们小时候做语文阅读理解题目一样，知识引擎「阅读」之后，还要学会「理解」。

这就需要介绍知识引擎的第二个内置大模型——业内首个基于语义判断的知识切分大模型。

它的能力是，把信息完整切分，分好类，这可以提高回答的完整性。

知识切分大模型可以自己理解整篇文章的一级、二级、三级段落，这基于它的语义理解、长上下文关联能力。

做阅读理解题目，把原文看懂之后，在原文找到答案的线索也是很重要的一步。

知识引擎内置也是一样，这就涉及到它的第三个能力——检索增强（RAG）技术。

小张上传了上百份PDF文档（每份几百页）给知识引擎，知识引擎在文档中快速检索，定位到关键信息，这依赖内置的自研长文本Embedding 模型。

embedding（嵌入）就是把将文本（词汇、短语、句子或整篇文档）转换成数值向量（一组数字）的方法，相当于是「降维」处理，「降维」之后，用数学的方法来处理它们的相似度就很方便。

举个例子，「猫在沙发上睡觉」、「沙发上有一只正在打盹的猫」这两句话的语法结构不同，但是在「降维」之后，它们在空间上的距离很近，大模型可以快速且准确地把它们「一网打尽」。

腾讯自研的长文档Embedding 模型，能支持复杂的长文本检索，包括上万行超大表格。在国际知名的 C-MTEB 榜单上，这个模型在 8 个中文任务上可以达到效果最优。

复习一下刚刚的知识。

小张把PDF文档拖进知识引擎，知识引擎阅读文档后，把文档的信息分好类。当任何人向知识引擎提问，它就通过「降维」的方法，快速检索、找到对应的原文。

接着，知识引擎就带着检索到的原文，加上最初的提问，重新排列组合，输入给大模型，「生成」回答。

相当于，知识引擎听了提问者的问题后，在小张上传的知识库找到资料，把问题改得更明白（问题里面已经有了答案的线索），再发给大模型。

以这个问答为例。

我的朋友小张发了一张图片（是的，这里有能看懂照片的多模态大模型在起作用），问知识引擎，「背大宝剑的小人是什么意思？」

小张很自信，他觉得自己的问题描述很精准。

其实「背大宝剑的小人」这个描述并不准确，但是知识引擎收到后，把它改得准确了，再发给大模型。

大模型收到更准确的提示词之后，情商很高地说：「背大宝剑的小人」是汽车安全带指示灯……

在AI时代，我们都知道会写prompt（提示词）是一项重要的技能，问对了问题，大模型才能回答好问题。而知识引擎降低了写prompt的门槛，让你用大白话就可以调动大模型。

最重要的是，刚刚说的这些复杂过程，都发生在知识引擎内部。所以，我的朋友小张不必理解这个过程，他只需要在知识引擎的可视化的界面上拖拉、点击，上传自己的工作文档，就完成了一个AI助手的搭建。

只需4个步骤，5分钟即可用知识引擎配置应用

除了小张这样的汽车行业从业者，金融、教育、文旅、零售等行业的从业者，也正在运用知识引擎，让大模型学习企业的专属知识，用来辅助工作。

如何系统的去学习大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以V扫描下方二维码免费领取🆓
在这里插入图片描述

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。那以下这些PDF籍就是非常不错的学习资源。

在这里插入图片描述

四、AI大模型商业化落地方案

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
  - L1.4.1 知识大模型
  - L1.4.2 生产大模型
  - L1.4.3 模型工程方法论
  - L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
  - L2.1.1 OpenAI API接口
  - L2.1.2 Python接口接入
  - L2.1.3 BOT工具类框架
  - L2.1.4 代码示例
- L2.2 Prompt框架
  - L2.2.1 什么是Prompt
  - L2.2.2 Prompt框架应用现状
  - L2.2.3 基于GPTAS的Prompt框架
  - L2.2.4 Prompt框架与Thought
  - L2.2.5 Prompt框架与提示词
- L2.3 流水线工程
  - L2.3.1 流水线工程的概念
  - L2.3.2 流水线工程的优点
  - L2.3.3 流水线工程的应用
- L2.4 总结与展望

阶段3：AI大模型应用架构实践

目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
内容：
- L3.1 Agent模型框架
  - L3.1.1 Agent模型框架的设计理念
  - L3.1.2 Agent模型框架的核心组件
  - L3.1.3 Agent模型框架的实现细节
- L3.2 MetaGPT
  - L3.2.1 MetaGPT的基本概念
  - L3.2.2 MetaGPT的工作原理
  - L3.2.3 MetaGPT的应用场景
- L3.3 ChatGLM
  - L3.3.1 ChatGLM的特点
  - L3.3.2 ChatGLM的开发环境
  - L3.3.3 ChatGLM的使用示例
- L3.4 LLAMA
  - L3.4.1 LLAMA的特点
  - L3.4.2 LLAMA的开发环境
  - L3.4.3 LLAMA的使用示例
- L3.5 其他大模型介绍