从“百模”到“千行”的路，浪潮信息是如何走的？

AImatters

已于 2024-05-31 19:54:59 修改

阅读量817

点赞数 28

文章标签：浪潮信息 IPF EPAI 人工智能元脑

于 2024-04-30 22:00:37 首次发布

本文链接：https://blog.csdn.net/AImatters/article/details/138357823

版权

导读

“怕错过”是生成式AI浪潮下企业的普遍焦虑。

针对大模型落地中的卡点，浪潮信息拿出了怎样的系统化解法？

2024年，曾经火热的“百模大战”，已经进入“千行百业”的实战考验中。

2023年，8个月内国内就诞生了238个大模型，相当于每隔1天就会官宣一个新的大模型，因此业界甚至有了“大模型日抛”的说法。

我们需要这么多大模型吗？2024年，借助市场之手，大模型将加速优胜劣汰。这双无形之手就是应用。

只有应用，才能把大模型这个算力吞金兽，破解为企业用得起、用得好的生产力工具。

从“百模”到“千行”，也是人工智能+的主战场。近日，在第十届浪潮信息合作伙伴大会IPF上，浪潮信息提出“以应用为导向，以系统为核心”的AI战略，并发布企业大模型开发平台元脑企智EPAI，从系统和全局视角，为大模型落地提供了新的解题思路。

人工智能+时代，谁来缓解“怕错过”的AI焦虑症

“谈到人工智能的发展，现在有一个词叫‘怕错过’，每个人都怕错过，我们的客户也怕错过，所以我们都在加速学习。”

在IPF大会上，作为元脑生态伙伴的中科软董事长左春这样表示。

“怕错过”代表了生成式AI浪潮下企业普遍的焦虑。

今年3月，《连线》杂志创始主编、畅销书作者凯文·凯利在中国的一场演讲中也提到，“你暂时不会被AI替代，但会被更擅长使用AI的人替代。”对于企业更是如此。

尤其在AI应用激增的当下，企业更是只争朝夕，等不起，慢不得。

智能进化论观察，目前在智能客服、智能营销、智能财务审核、投标助手等热门领域，已经涌现出大量同类应用。

一方面，大量的IT服务商、云服务商、ISV企业、SaaS企业都希望尽早开发出AI应用推向市场。另一方面，大模型的产业落地仍面临较高的技术门槛、复杂的开发环节、高昂的试错成本、较长的开发周期等挑战。

目前，大模型底层的算力基础设施日益复杂，同时2/3的大语言模型都选择了开源路线。这既促进了AI产业的繁荣发展，也为AI应用开发带来多元算力、多模算法的挑战，进一步推高了适配难度。

综上，“人工智能+”的卡点在效率和成本。而要解决这些挑战，不是单一产品和平台能做到的，需要借助系统和生态。

如果我们回顾上一轮移动互联网的创新创业浪潮，能够快速试错、不断迭代的精益创业模式大受追捧。在“人工智能+”的时代，这种模式依然有效。

面对大模型落地难的挑战，产业各方都需要一个能够低成本、高效率的应用开发方式，将大模型转化为MVP（最小可行性产品）尽快投向市场。

也就是说，大模型落地需要一个帮助企业由虚入实的平台。正如元脑生态伙伴拓尔思董事长施水才的观点，大模型的落地的重要挑战要解决三个"实"，实在，实用，实效。实在是指 AI落地的时候工程化交付非常重要；实用是需要与业务高度相关，需要和用户的业务吻合；实效是需要降本增效。

在这样的产业背景下，浪潮信息推出了企业大模型开发平台元脑企智EPAI。

EPAI，端到端打通大模型落地障碍

EPAI是一个高效、易用、安全的端到端开发平台，提供数据准备、模型训练、知识检索、应用框架等系列工具，支持调度多元算力和多模算法，能够帮助各类企业“多快好省”地开发AI应用。

“生态的快速发展和繁荣需要有一个能够连接、聚集力量的产品，这就是今天我们推出企业大模型开发平台EPAI的思考。我们希望通过EPAI开发平台，为上万家合作伙伴提供工具箱，提供方法论，凝聚并激发生态的活力、伙伴的创新力，加速赋能千行百业的智能化转型。”浪潮信息高级副总裁刘军表示。

智能进化论观察，在帮助企业降低AI应用开发门槛方面，EPAI至少有五大优势：

高效率

EPAI支持Llama、ChatGLM、Baichuan、Qwen、“源”等中外主流开源与闭源大模型的应用快速开发，同时适配CPU、GPU、NPU、TPU在内的多元异构算力，能够实现大模型应用在跨算力平台上的无感迁移。这样企业就可以在多元多模的产业格局下快速试错。同时，EPAI可实现百万Token、千亿参数、领域大模型的高效微调。

高质量

EPAI提供上亿条基础知识数据，同时提供自动化的数据处理工具，帮助企业生成高质量的微调数据和行业/企业知识库。检索增强生成（RAG）技术，通过本地化检索基础知识+行业知识+企业知识，解决大模型知识更新不及时和幻觉等问题。

低成本

EPAI上层模型算法和下层基础设施的逻辑解耦，即便伙伴和客户要更换算力平台或者模型，都非常方便，试错成本极低。同时，EPAI提供API、对话UI、智能体三种使用方式，满足不同技术开发者的需求。

高安全

EPAI通过权限管理、数据加密、内容审查等方式，保护企业数据、模型的安全。在保护用户隐私、符合安全合规的基础上，充分利用数据价值。

全生态

EPAI对元脑伙伴的赋能是全生态的。算法、芯片、数据服务商等左手伙伴，可以将新的技术接入到平台里，为所有生态合作伙伴所用。咨询、ISV、集成商、分销商等右手伙伴，可以在平台上选择各类快速开发工具。

本届IPF大会，浪潮信息还宣布了EPAI种子计划，通过多种举措帮助伙伴提升商用大模型开发能力，计划3年内发展1000家伙伴。

目前，无论是面向企业客户和伙伴，还是浪潮信息自身业务，EPAI都展现出显著的降本增效的效果。

借助EPAI平台，企业和ISV服务商可以极大缩短AI应用开发周期。在浪潮信息内部，基于“源2.0”大模型开发的智能客服、智能编程、智能投标助手等应用已经投入使用。目前，智能编程助手完成超过65%的计算框架相关的代码生成，整体代码采纳率达到了50%。智能投标助手可准确识别85%的招标文件关键信息，秒级提取客户核心需求与招标关键信息。