深入剖析：从落地场景到实现路径——14份报告揭秘大模型热点问题

生成式AI通过学习大量原始内容，生成新的、原本并不存在的数据、文本、图像或其他类型的内容，具有一定的创造性和想象力。生成式AI对企业带来了创新的机会和自动化的潜力，提高了产品设计、广告创作和个性化服务的水平，使企业能够更高效地自动生成内容、提供个性化的客户体验。

2023年是生成式AI的突破时刻，也是中国大模型的发展“元年”。通用大模型的快速迭代推动着生成式AI市场的发展。

当前，企业的重点已经从围绕基础大模型的兴奋点转向推动投资回报率的用例。虽然当前大多数企业都将生成式AI用于低风险的内部场景实施上，但随着生产力工具和生成式AI实践的快速发展，企业将在更多核心业务场景的关键用例中部署生成式AI。从长远来看，基于生成式AI的对话式界面将促进技术商业化，使人工智能和其他技术进一步平民化。

本文汇总了沙丘智库近期在生成式AI方向的部分研究成果，包括生成式AI对企业的影响、大模型的应用场景和价值、技术实现方式、安全和风险管理，旨在回答企业想要了解的关于生成式AI和大模型的热门问题。

01

生成式AI对企业的长远影响

Q1：生成式AI将产生哪些颠覆性创新？

对于企业而言，生成式AI将在内容消费、内容生成、技术创造三个领域产生颠覆模式，这些领域对于企业在探索生成式AI技术的投资和应用路径时至关重要。

在内容消费领域，以对话式AI为例，商业智能平台正在利用大模型增强其对话式数据分析的能力，允许用户以自然语言对话的方式获取所需的统计数据并自动化生成数据分析报告

在内容生成领域，以人工智能智能编码助手为例，人工智能编码助手可以帮助开发人员编写代码，还可以分析、解释、调试、重构和转换代码，从而使开发人员专注于高价值的工作，提升开发人员的生产力和体验

在技术创造领域，当前以AI Agent最为热门，AI Agent是一种具有自主性或半自主性的智能实体，能够利用人工智能技术在数字或物理环境中感知、决策、采取行动并实现目标。AI Agent具有自动执行任务、做出决策以及与周围环境智能互动的能力，因此有可能彻底改变各行各业和各种环境

Q2：大模型的未来发展趋势是什么？

**第一，模型“瘦身”。**虽然过去几个月市场上推出了很多超大规模参数模型（千亿级别），但未来可能会出现更多针对特定用例的中模型甚至小模型。这些针对特定用例的“小”模型在场景适用性、模型规模、数据集、成本等方面具有明显优势。

**第二，开源大模型将挑战“最先进”的闭源大模型。**开源大模型正日益受到重视并对闭源大模型产生威胁，未来开源大模型和闭源大模型之间的差距可能会逐渐缩小。

**第三，领域大模型。**市场上将出现越来越多的垂直领域大模型，尤其是在金融服务、医疗保健等领域。这些模型大多基于通用大模型构建，但具有领域特定数据。

**第四，大模型的商业化。**随着越来越多的开源大模型涌现出来，大模型可能会迅速变得大众化。但是企业可能仍愿意为安全性更高、软件发布更敏捷以及性价比更高的大模型付费，大模型市场将从卖方市场逐渐转变为买方市场。

**第五，对大模型的监管将改变模型的训练和发布流程。**目前针对生成式AI的监管还不够完善，但中国正在起草关于模型训练和治理方面较为严格的法律法规，这将影响大模型训练过程的成本和频率，提高大模型开发者的准入门槛。

**第六，多模态大模型拓展应用场景。**多模态大模型将进一步提升模型性能，增强通用性。这种多模态的组合将在生成式AI中开辟新的用例，并改变用户界面（向语音交互等模态发展）和体验。

**第七，AI Agent。**大模型需要大量的人工干预和技能进行引导，虽然AI Agent的“黑盒”属性可能会带来未知的风险，但是AI Agent可以自主行动并减少人工干预，完成更加复杂的任务。

02

应用价值与用例

Q3：企业如何识别大模型用例的业务价值、成本与风险？

沙丘智库将企业的大模型应用分为三类：

**• 防御型用例：**改善特定任务，但不会给企业带来额外的竞争力，例如员工办公助手、代码助手、营销内容生成等；

**• 差异化用例：**改善特定的业务流程，为企业带来差异化优势，例如客服助手、销售助手等；

**• 变革型用例：**创造新的产品、市场或流程，通常具有行业属性，例如智能理赔（保险）、药物研发（医疗）等。

每类用例具有不同的潜在收益、成本和风险

Q4：企业应如何选择大模型应用场景？

针对众多大模型用例，企业应从业务价值和可行性两个维度进行应用场景的筛选和优先级排序。

沙丘智库确定了当前对银行最有价值、最具可行性的18个具体用例，包括员工智能问答助手、营销物料生成、编码辅助工具、客服坐席助手、数据分析、投研助手、智能营销工具、信贷审批、风险预警、反欺诈、智能办公助手、反洗钱报告生成、合规审查、虚拟数字客服、机器人交易助手、产品动态定价、客户流失预警、宏观分析。同时，根据对银行与大模型技术厂商的调研，对这些用例按照业务价值与可行性进行优先级排序，旨在为银行的大模型应用选择提供参考。
沙丘智库确定了当前对保险公司而言最有价值、最具可行性的16个具体用例，包括营销素材生成、条款自动审核、代理人销售助理、核保辅助支持、销售机器人、智能理赔、数据分析、员工知识问答助手、基于大模型的客服机器人、保单摘要、编码辅助工具、数字员工、代理人智能陪练、欺诈规则发现、智能运维、智能办公助手。同时对这些用例按照业务价值与可行性进行优先级排序，旨在为保险公司大模型应用选择提供参考。

沙丘智库确定了当前对企业IT部门最有价值、最具可行性的15个大模型应用场景，包括代码生成、测试用例和数据生成、威胁检测、非结构化数据处理、IT流程自动化、代码注释生成、代码评审、合成数据生成、自动文档生成、IT问答助手、数据管理、故障排查、日志监控、供应商管理和软件开发规划。

Q5：有哪些产生价值的落地案例？

收录了276个当前已产生阶段性成果、值得企业参考的案例简报，涉及32个应用场景、29个细分行业，旨在帮助企业快速了解生成式AI技术最新、最全面的落地情况。

03

技术实现路径

Q6：企业应如何选择大模型的训练方式？

企业在训练特定任务的大模型时，微调并不是唯一可选项，提示工程和检索增强生成（RAG）是主要的替代方式。

• 提示工程：通过向大模型提供数据，指定和限制大模型可以产生的回答，指导模型输出。提示工程可以在不更新模型参数的情况下产生预期效果。

• 检索增强生成（RAG）：检索增强生成是一种特殊的提示工程，可以在基础模型外部检索数据，并将检索到的相关数据注入到上下文中，增强提示信息，使大模型的输出以新信息为基础。

基于对微调优劣势的分析，企业在训练大模型时，应先尝试提示工程和检索增强生成，进行试点和反复试验，只有在这些训练方式不足以提高模型性能时再考虑微调

Q7：企业如何在开源和商业模型之间进行选择？

当前大部分大模型仍然是闭源的，但可商用的开源大模型正在快速发展，且和闭源大模型之间的距离逐渐缩小，开源大模型的主要优点包括可定制性、隐私性和安全性、利用社区协作的能力、模型透明度以及灵活性

企业可以利用云基础设施进行开源模型微调和推理，或者选择较小的开源模型进行轻量级微调然后部署在企业本地。

Q8：企业如何选择大模型的建设路径？

对企业而言，大模型的建设路径有多种，企业需要了解每种大模型建设路径的技术差异以及优缺点，考虑所有关键因素，由此选择最合适企业的大模型建设路径。

沙丘智库将大模型的建设路径分为五种：购买嵌入了大模型的应用、调用大模型的API接口、通过信息检索扩展大模型、在大模型的基础上微调、自建基础大模型，沙丘智库对比了这五种大模型建设路径的优劣势，并为企业提供了一种选择大模型建设路径的决策框架

Q9：企业如何选择大模型的部署方式？

随着大模型API接口平均价格的不断下降，云部署解决方案在未来的优势将更加明显。技术的快速发展和系统架构的日益复杂化，将使得云部署解决方案因其灵活性、可扩展性和易于管理的特点，在多种应用场景中优势更加明显。因此，企业需要重新评估其AI部署策略。

04

安全和风险管理

Q10：企业使用大模型的风险是什么？

企业在使用大模型时的潜在风险包括：数据隐私和保密性、生成内容的准确性、网络安全、员工滥用、违反法律法规、供应商风险，企业需要实施相应的治理和安全控制措施，并了解数据、隐私和安全相关的法律法规

那么，如何系统的去学习大模型LLM？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

大模型&AI产品经理如何学习

求大家的点赞和收藏，我花2万买的大模型学习资料免费共享给你们，来看看有哪些东西。

1.学习路线图

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己整理的大模型视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。

（都打包成一块的了，不能一一展开，总共300多集）

因篇幅有限，仅展示部分资料，需要点击下方图片前往获取

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档，有几百本，都是目前行业最新的。

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓