政企市场，「观望」AI大模型

政企市场，「观望」AI大模型

数据安全等“刚需”下，私有化成为政企市场的准入门槛，然而私有化下，行业模型局限性尚未可知，加之信创化等因素，厂商仍需取长补短，为政企客户提供全方位的解决方案。

政企领域，似乎正在成为AI落地的又一标的。

几个最新的动态是：新华三针对政企客户发布私域大模型“百业灵犀”LinSeer、中国电科发布专为党政企行业用户服务的AIGC大模型“小可”、百应科技发布政务行业专有大模型“万机”……百度智能云、阿里云、三六零、科大讯飞、商汤等也都在针对政企客户，发布了相关产品和解决方案。

这一趋势同样发生在海外。有消息称微软正在使用其 Azure 云服务把 OpenAI 的强大的语言生成模型引入政府机构，这些模型包括 OpenAI 最新、最先进的大型语言模型（LLM）GPT-4以及 GPT-3。

然而，**从国内发布政企大模型的各大厂商的动作来看，并未有较多的落地案例。**背后的原因有很多，一是产品发布时间短，无法及时得到较大反馈；二是由大模型引起的AI热潮还处于爆发期，政企对于合作厂商的选择还需考量。

除了这些因素之外，几个关键的问题是，这些厂商针对政企客户发布的AI产品，真的是政企所需要的吗？再或者，于政企而言，其需要什么样的AI产品与服务？

一、政企市场，“观望”AI

“我们接触的客户都在探索这方面的内容，政企会有这方面的诉求。”某业内人士告诉产业家，“但对于AI大模型在政企领域的应用，大家都处于观望+探索的阶段。”

在国内，政企普遍体量大、业务复杂、定制化要求高，有着沉重的IT建设包袱，各部门、业务之间难以协同，数据壁垒也难以打破，这使得政企的数字化转型困难重重。

而大模型可以把人与人、人与机器之间的交互过程数据完整的沉淀下来，让它自主学习进步，持续演进。杜绝了过去的烟囱式建设，降本增效的同时还能推动政企数字化进程。

这种技术应用的趋势，推动着诸多厂商开始将自身的TOG产品与大模型结合。

不过客观来看，当下虽然深耕AI产业链的玩家众多，但在政企领域，出于对算力、行业专业度、数据安全、国产化等各方因素的考量，厂商难以给出合适的AI解决方案。

AI大模型作为数字化的新基建，如何赋能行业仍需不断探索、实践。很多企业也在不断进行新的尝试。

周鸿祎曾在微博上发文表示，“**大型企业或者政府要私有化大模型。**即在加入公有GPT知识和能力的基础上，再训练一个私有的GPT，只给企业自己或客户使用。”

与周鸿祎有相同见解的，还有新华三安全产品研发总监韩小平。

“政企大模型一方面数据不能出域；一方面需要结合其业务场景数据进行喂养训练，生成实际的业务场景App。”

他认为，政企大模型技术本身其实不是唯一考量的因素，更重要的是对用户业务的理解。政企AI服务，行业Know-how仍是关键，没有政企业务服务经验的厂商，难以结合大模型设计出个性化的解决方案。

两人都将政企AI大模型的落地方式瞄准了私有化。

二、私有化，会是一个好的选择吗？

“全面禁止使用ChatGPT”这句话时不时就会喜提科技榜热搜，最近一次的主角是三星。

具体源于三星允许半导体部门的工程师使用ChatGPT参与修复源代码问题。 但在过程当中，员工们输入了机密数据，包括新程序的源代码本体、与硬件相关的内部会议记录等数据。

起初三星全面禁止使用ChatGPT，自3月11日开始才部分开放给DS部门使用，却没想到在短短时间内就传出机密外泄。

诸如此类机密数据泄漏事件，层出不穷。

在海外市场，苹果、三星、摩根大通、花旗银行等知名企业都曾明确表示，禁止或限制员工在工作场合使用ChatGPT等大模型产品。

事实上，大模型的底层逻辑是将行业数据标注出来进行深度学习，训练出专注于某一行业的垂直模型。这也意味着，企业的数据要集成到通用大模型的数据池中。

然而，政企的数据大多涉及商业机密、个人隐私等问题，对数据安全要求甚高。

所以，数据不出域，成为关键。而私有大模型无疑是政企的必选项。

不过，私有化意味着需要政企客户自己收集数据进行训练。一般情况下，AI决策的及时性和准确性，取决于数据质量、数量以及算力。这意味着输入预训练模型的数据维度、数量越多，质量越高，才能真正发挥大模型真正价值。

一个有争议的点是，专业厂商打造的私有模型，比起通用大模型的能力，能否满足政企需求。

3月30日，彭博社创始人布隆伯格发布了一片论文，即BloombergGPT: A Large Language Model for Finance。

在论文中，介绍了其以模3630亿token的金融领域数据集以及3450亿token的通用数据集训练出来的金融大语言模型。并进行金融领域评估与通用领域评估。

结果显示，在金融领域任务上，该模型综合表现最好；在通用任务上，该模型的综合得分同样优于相同参数量级的其他模型，并且在某些任务上的得分要高于参数量更大的模型。

这意味着，基于专业领域语料训练的大模型，在领域内的理解要超过通用大模型。

一个启示是，在其他特定领域，也可以开发专用的大语言模型，并且效果可能比通用大模型更好。

然而，这个评估实验的结论仍无法代表所有行业，有些问题仍需要被正视，例如中外金融数据维度、质量其实有着较大的差距，该金融模型作为第一个行业模型，更换不同维度、质量的数据，能否保持其结论的准确性，还未得知。

另外，除政务系统、城市大脑以及金融等数据敏感的政企场景，其他终端场景，通用大模型的语料数据仍有很大优势。

所以，对于政企而言，其需要的AI服务是能在保证数据安全的同时，还可以能集成通用大模型作为能力补充。

三、政企大模型，亦需“群战”

术业有专攻，大模型能力同样如此。

在政务AI大模型应用方面，周鸿祎曾直言，预测未来中国不会只有一个大模型，每个城市、每个政府部门都会有自己的专有大模型。

信创化的浪潮下，全技术栈的国产化已经成为服务政企客户的准入门槛。所以对于政企而言，信创生态能力成为其选择厂商的重要标准。

目前来看，能实现全技术栈国产化的AI大模型厂商屈指可数。能否吸引更多信创伙伴成为关键，取长补短，或将实现双赢。

此外，在国产化的基础上，不同的场景应用，也需要与不同的厂商合作，例如互联网云厂商在终端软件应用的优势；运营商的网络优势；华为在芯片、系统上的优势。

除了基于客户需求的合作，还有来自算力等资源稀缺所带来的压力。

AI新一轮热潮袭来，服务器需要配备大量GPU/NPU/FPGA/ASIC等芯片以支持高算力，但就目前来看，算力不仅价格高昂且资源紧张。

目前，支撑包括ChatGPT大模型在内的95%用于机器学习的芯片都是英伟达的A100（或者国内使用的替代产品A800），该芯片的单价超过1万美元。此外，英伟达最新一代的H100芯片的性能也远超A100，但价格也更高，约合25万元人民币。

而在取长补短的AI大模型产业生态下，将大幅度杜绝模型的重复搭建、实现数据的重复利用，大大节约算力资源利用率。同时还可以减少政企客户的AI部署成本。

所以，对于布局政企大模型的厂商而言，在私有化的前提下，通过开源、API接口等形式，以通用大模型和客户或自身集成的数据，帮助客户调教模型，形成定制化的AI产品，或将推动政企大模型快速落地。

一些厂商也正在验证了这种路径的可行性。

例如中国电科面向党政企，提供“通用智能模型大循环 + 行业智能模型小循环”双循环、“模型训练 + 测试评估 + 场景精调 + 可信增强”四阶段的行业应用新范式。

再比如，新华三面向政企发布的百业灵犀LinSeer既支持“私域大模型+新华三ICT基础架构”的模式保障数据安全，也支持“客户自选大模型+新华三ICT基础架构”的模式满足多种需求。

政企AI服务的走向逐渐清晰，即政企或许更需要“自助餐”式的服务模式。客户可以选择适合自身需求的芯片、模型技术方、数据集成方、软件厂商等。

经历过多次寒冬的AI，能否抓住这次时代的机遇，仍需时间来验证。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】