AI大模型开发架构设计（10）——AI大模型架构体系与典型应用场景

最新推荐文章于 2024-08-14 15:23:42 发布
置顶 最新推荐文章于 2024-08-14 15:23:42 发布
阅读量1.9k 收藏 10
点赞数 9
分类专栏： AIGC 文章标签： AIGC 大模型架构体系 大模型典型应用场景
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yangwei234/article/details/136073460
版权
本文详细探讨了AI大模型的架构体系，包括预训练、有监督微调和强化学习等步骤，以及GPT助手的训练流程。还介绍了AI大模型在智能客服、知识库、数据分析等多个领域的典型应用场景，并剖析了相应的应用技术架构，如AIFirst、AIAgent和Fine-tuning。
摘要由CSDN通过智能技术生成

文章目录

AI大模型架构体系与典型应用场景

1 AI大模型架构体系你了解多少?

GPT 助手训练流程

image.png

  • 横向来看，分为四步：预训练（无监督、99%算力+时间）、有监督微调、奖励模型、强化学习
  • 纵向来看，每一部分需要：数据集（Dataset）、算法（Algorithm）、模型（Model）、花销
GPT 助手训练数据预处理

image.png

2个训练案例分析

image.png

2 AI 大模型的典型应用场景以及应用架构剖析

AI 大模型的典型应用场景
AI 大模型应用架构
  • 基于 AI 大模型应用技术架构(1)——AI First

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

  • 基于 AI 大模型应用技术架构(2)——AI Agent

image.png

  • 基于 AI 大模型应用技术架构(3)——Fine-tuning

image.png

企业知识库案例三步骤

  • 文档 -> Vector Store 表示语义的 Index，可以做语义搜索
  • Retrieval 是将 Query Embeding 后，查询近似文档过程
  • 大模型做最后的知识理解和 QA 问答
讲文明的喜羊羊拒绝pua
关注
  • 9
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
专栏目录
AI全栈大模型工程师(十六)智能体架构：Agent
Maynor的博客
11-02 1400
将大语言模型作为一个推理引擎。给定一个任务，智能体自动生成完成任务所需的步骤，执行相应动作（例如选择并调用工具），直到任务完成。可以是一个函数或三方 API也可以把一个 Chain 或者 Agent 的 run()作为一个 Tooltools = [),
【从零开始大模型开发与微调】AI 人工智能大语言模型 LLM：语言与思维——实践的融合
光剑书架上的书
07-04 1329
在人工智能领域，大语言模型（Large Language Models, LLMs）已经取得了令人瞩目的成就。这些模型基于深度学习，通过在大量文本数据上预训练学习语言知识，被广泛应用于各种自然语言处理（NLP）任务，如图像描述、对话系统、翻译、摘要生成等。但这些模型的性能和表现，特别是其对语言和思维的理解，仍存在诸多困惑和疑问。大语言模型（LLMs）：指基于深度学习技术，通过在大量文本数据上预训练学习语言知识，能够理解和生成自然语言的大规模模型。自监督学习。
【重磅】2024国内主流AI 大模型架构及应用场景深度分析
python12345678_的博客
05-16 2883
◼ 产业级知识增强大模型，夫嫩行业大模型发展百度文心大模型源于产业、服务于产业，是产业级知识增强大模型。百度通过大模型与国产深度学习框架融合发展，打造了自主创新的 AI 底座，大幅降低了 AI 开发和应用门槛。文心大模型一大特色是“知识增强”，百度自研的多源异构知识图谱拥有超过 5,500 亿条知识，被融入到文心大模型的预训练中。文心大模型凭借海量数据和大规模知识的融合学习，能实现更高的效率、更好的效果、更强的可解释性。◼ 大模型架构分三层体系。
大模型应用的6种架构设计模式，你知道几种？
chengxuyuanyy的博客
07-22 907
架构设计模式已成为程序员的重要技能。然而，当我们转向大模型应用领域，情况可能会有所不同。面对新兴技术，比如：生成式 AI，我们尚缺乏成熟的设计模式来支撑这些解决方案。根据多年的架构设计经验，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，比如：成本问题、延迟问题以及生成的幻觉等问题。1当用户输入一个 Prompt 查询时，该查询会被发送到路由转发模块，而路由转发模块则扮演着对输入 Prompt 进行分类的角色。
大模型应用的6种架构模式，你知道几种？
musicml的博客
03-26 2502
▼最近直播超级多，预约保你有收获架构设计模式已成为程序员的重要技能。然而，当我们转向大模型应用领域，情况可能会有所不同。面对新兴技术，比如：生成式 AI，我们尚缺乏成熟的设计模式来支撑这些解决方案。根据多年的架构设计经验，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，比如：成本问题、延迟问题以及生成的幻觉等问题。—1—路由分发架构模式当用户输...
纯干货！快收藏！大模型技术应用架构演进
python12345678_的博客
05-17 1382
大模型应用技术架构话不多说，直接上干货，让我们来看看那些隐藏在应用背后，现在大模型都有哪些这种是最简单的方式，通过prompt给到大模型直接拿到结果。如果只有一个大模型并且用的是别人的公有大模型，那基本上就是大家所说的“套壳”。无论什么AI大模型，其本身是有局限性的，例如无法获取实时的一些信息（比如实时获取天气状况、股票等信息）。，让大模型实时调用搜索、甚至企业自己实现的api，获取各种需要的实时信息，减少幻觉，提升确定性。
一文讲清大模型AI应用架构
weixin_59191169的博客
05-16 1079
写到这里，也没想到自己写了这么长，过程中也给自己留了两个作业：AI 产品经理的知识结构之"提示词工程"，目前网上这一块内容很多，大家可以参考 Github 9000star 的项目 ( https://github.com/yzfly/wonderful-prompts?后续会把自己一些特色实践补上。老板们如何准备适合大模型易读的知识库，这一块内容不多，后面来补充。最后来总结一下：算法、算力、数据是科研教育机构的机会模型层是大厂的机会应用层才是大多数个体的机会。你是否找到了自己的机会呢？
大模型应用开发之业务架构和技术架构（从AI Embedded 到 Copilot,再到Agent）
最新发布
youmaob的博客
08-14 802
本文章，我们从大模型目前应用的典型业务架构和技术架构进行分析，让大家初步能够了解我们都是在如何使用LLM的，从而大家在自己的实际落地场景中，也可以对照分析，如何建设自己的业务架构和技术架构，以及选择什么样的技术路线。
《构筑大语言模型应用：应用开发与架构设计》一本关于 LLM 在真实世界应用的开源电子书，介绍了大语言模型的基础知识和应用
03-14
《构筑大语言模型应用：应用开发与架构设计》是一本深度探讨大语言模型在实际场景中应用的开源电子书，其主要目标是帮助读者理解大语言模型的基本原理，并掌握如何在各自的专业领域中有效地利用这些模型。...
新技术前沿-2024-国内主流AI大模型架构及应用场景深度分析
qq_20466211的博客
04-23 1256
国内主流AI大模型
【大模型应用开发 动手做AI Agent】基于大模型的Agent技术框架
光剑书架上的书
06-10 1320
随着人工智能技术的快速发展，特别是自然语言处理和大模型技术的突破，基于大模型的Agent（代理）技术正在成为人工智能应用的新热点。Agent技术旨在创建能够自主执行任务、与人交互的智能软件系统，在客户服务、个人助理、智能教育等领域具有广阔的应用前景。本文将深入探讨基于大模型的Agent技术框架，阐述其核心概念、原理和实践，为读者提供全面深入的认识。基于大模型的 Agent 技术正处于快速发展阶段。模型的进一步增大和优化，在更广泛的领域达到人类水平。
【AI大模型应用开发实战】神经网络核心算法原理与学习过程
光剑书架上的书
03-19 1171
随着计算机技术的飞速发展，人工智能逐渐成为了当今科技领域的热门话题。人工智能旨在让计算机能够模拟人类的思维方式，从而实现智能化的决策和行为。在这个过程中，神经网络作为一种模拟人脑神经元连接的计算模型，成为了实现人工智能的关键技术之一。yfw⋅xbyfw⋅xbE12∑i1nyi−ti2E21​∑i1n​yi​−ti​2反向传播：δiLyi−tif′ziLδiL​yi​−ti​。
2024 AI 大模型全栈开发知识体系【LLM 技术栈】
AI全栈 和 IT 编程相关分享
02-21 2853
作为一名经验充足的 AI 全栈工程师，2024 年我计划把我的经验总结出一套知识库免费分享给大家，感兴趣的小伙伴可以关注我一起学习。
大模型开发的5种应用架构
m0_70839135的博客
07-23 235
架构对一个项目来说至关重要，它们能帮助构建高效、可维护的系统。然而，当我们进入大模型应用领域时，传统的设计模式似乎不再完全适用。生成式 AI 等新兴技术的出现，使得我们在设计这些系统时面临前所未有的挑战。
4、大模型应用开发框架
hugo
06-30 1003
LangSmith：生产级LLM应用开发平台LangChain：LLMs应用开发框架LangChain-Community：第三方集成LangChain-Core：LCEL等协议LangChain Templates：开箱即用APP示例LangServe：Chains生产部署（REST API）
大模型应用的 10 种架构模式
python122_的博客
05-15 1669
在塑造新领域的过程中，我们往往依赖于一些经过实践验证的策略、方法和模式。这种观念对于软件工程领域的专业人士来说，已经司空见惯，设计模式已成为程序员们的重要技能。然而，当我们转向大模型应用和人工智能领域，情况可能会有所不同。面对新兴技术，例如生成式 AI，我们尚缺乏成熟的设计模式来支撑这些解决方案。作为一位老码农，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，如成本问题、延迟问题以及生成的不准确性等。\1. 路由分发模式。
大模型应用的10种架构模式
我相信......
03-24 990
在塑造新领域的过程中，我们往往依赖于一些经过实践验证的策略、方法和模式。这种观念对于软件工程领域的专业人士来说，已经司空见惯，设计模式已成为程序员们的重要技能。然而，当我们转向大模型应用和人工智能领域，情况可能会有所不同。面对新兴技术，例如生成式AI，我们尚缺乏成熟的设计模式来支撑这些解决方案。作为一位老码农，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中...
【大模型】推荐阅读：大模型应用的 10 种架构模式
qq_30820239的博客
04-01 676
作者 | 曹洪伟在塑造新领域的过程中，我们往往依赖于一些经过实践验证的策略、方法和模式。这种观念对于软件工程领域的专业人士来说，已经司空见惯，设计模式已成为程序员们的重要技能。然而，当我们转向大模型应用和人工智能领域，情况可能会有所不同。面对新兴技术，例如生成式 AI，我们尚缺乏成熟的设计模式来支撑这些解决方案。作为一位老码农，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，如成本问题、延迟问题以及生成的不准确性等。
构建AI中台：智能聊天机器人的平台架构与实践
“AI中台——智能聊天机器人平台的架构与应用” 本文主要探讨了AI中台的概念，特别是在智能聊天机器人平台的建设与应用中的实践。AI中台是基于中台战略，旨在通过集中管理和共享AI能力，以提高业务效率和创新能力。...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

讲文明的喜羊羊拒绝pua

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值