01研究范围定义
大模型浪潮席卷全球,AI Agent作为这股浪潮中的新星正在取代Copilot,成为大模型应用的主流形态之一,以其惊人的速度和影响力重塑科技和商业的版图。
AI Agent是指以大模型为驱动,具有自主理解感知、规划、记忆和使用工具的能力,能自动化执行的智能体。随着大模型能力增强以及RAG等技术的成熟,AI Agent的能力得到了质的飞跃。这些模型赋予了AI Agent更接近人类的思维能力,再联动各类工具和组件,使得AI Agent在处理复杂任务时表现出前所未有的灵活性和效率。从智能助手、个性化推荐系统到自动化客户服务,AI Agent的应用案例层出不穷,它们在各行各业中展现出巨大的潜力和价值。
爱分析认为,AI Agent市场从技术架构角度可以划分为基础层、平台层和应用层。基础层是指支持AI gent的基础环境,包括大模型、算力基础设施和数据基础设施。平台层是基础层和应用层之间的“桥梁”,有利于大模型在各种实际场景以AI Agent的形态快速落地,包括AI Agent开发管理平台、LLMOps工具等。应用层是指各类场景的AI Agent,既有金融、能源、汽车等行业场景的AI Agent,也有业务流程自动化、数据分析、协同办公等通用场景的AI Agent。AI Agent市场划分详见下图。
本评估报告聚焦AI Agent开发管理平台市场,爱分析遴选出具备成熟解决方案和成功案例的厂商火山引擎进行能力评估,供企业做厂商选型时作为参考。
02
AI Agent开发管理平台市场分析
市场定义:
AI Agent开发管理平台是以大模型为基础,内置多样化工具、插件,具备AI Agent开发、测试、发布、集成、运维、安全等一系列能力的全生命周期平台。平台可以快速搭建具备客户特征的AI Agent,降低大模型应用开发门槛。
甲方终端用户:
大型企业的IT部门、业务部门
甲方核心需求:
AI Agent开发管理平台成为企业AI战略的神经中枢,肩负着全员赋能与智能化升级的双重使命。企业高层的“自上而下”策略,不仅确立了AI在企业中的核心地位,更明确了以技术提升全员效率和创新能力的目标。CIO们在这一过程中,需要的不仅是技术平台,更是一个能够提供深度应用规划和初期开发的全面合作伙伴,以确保AI技术在企业中的有效落地和价值实现。
AI Agent开发管理平台是企业AI战略的核心承载与全员赋能引擎。大型企业正积极探索其落地实施的有效途径,而“自上而下”的推进策略已成为众多企业的共同选择。这种策略强调由企业高层领导牵头,自顶向下地制定和执行AI战略。其中,"全员赋能"不仅是一项核心目标,更是衡量CIO工作绩效的关键指标之一。为了实现这一目标,CIO们正寻求AI Agent开发管理平台的支撑作用,旨在为每位员工配备个性化的AI助手,以技术赋能全员,激发组织潜力。
AI Agent开发管理平台的建立,并非单纯追求技术的应用,而是深挖AI在业务层面创造的实际价值。尽管不同企业对业务价值的定义各有侧重,但普遍关注的三大价值领域可以概括如下:
-
长尾场景的智能优化:企业在日常运营中会遇到大量特定的长尾场景,这些场景虽小,却直接影响员工的工作效率。AI Agent通过智能化处理,显著提升员工的工作效率,使他们在不增加工作量的情况下,能够高效处理更多任务。
-
业务流程的效率提升:以某二手车交易企业为例,通过构建AI Agent,用户可以利用自然语言交互的方式,大幅缩短选购流程,提高用户体验,加速交易进程。
-
员工能力的专业升级:以合同审核为例,传统上这一高风险工作需要专业知识丰富的人员来完成。AI Agent的引入,使得合同审核流程自动化成为可能,降低了对员工专业技能的门槛,优化了人力资源配置,同时减少了对高级别专业人才的依赖。
企业追求的不只是AI Agent平台,更需配套的应用规划与初期应用开发。在大模型技术的落地之旅中,企业不仅是探索者,更渴望找到能够并肩前行的"良师益友"。对于AI Agent开发管理平台的引入,企业期望得到的不仅是一套软件系统,而是希望平台厂商能成为其应用规划和实施的得力伙伴。在这一过程中,企业迫切需要解决的问题涵盖了应用场景的选择、优先级排序、以及各场景预期的投资回报率(ROI)等关键咨询领域。咨询服务的核心,在于帮助企业明确AI Agent的应用蓝图,识别和评估那些最需要智能自动化的业务场景,并制定出切实可行的实施路线图。这不仅涉及到技术层面的规划,更包括业务流程的梳理和优化。
在咨询服务的基础上,企业同样需要厂商提供的应用开发服务,以确保平台的落地和应用生态的初步构建。在初期采购平台时,企业期望厂商能够示范性地提供1-2个定制化的AI Agent,这不仅验证了平台的技术实力和业务适配性,也展现了AI技术在实际工作场景中的价值和潜力。然而,企业的最终目标是建立起自主可控的AI应用生态。因此,在首批AI Agent开发之后,企业将逐步过渡到由内部IT和业务团队自行开发和维护AI Agent的模式。这要求平台不仅要提供强大的技术支撑,还需配备相应的培训和文档资源,确保企业团队能够顺利接管AI Agent的开发和迭代工作。
综上所述,企业对AI Agent开发管理平台的期待,已经超越了单纯的技术采购,而是寻求一个全面的合作伙伴,共同规划和培育企业的AI应用生态,实现业务流程的智能化转型。
厂商能力要求:
厂商应致力于构建一个既技术先进又用户友好的平台,确保业务人员能够轻松上手并快速开发个性化AI应用。这要求厂商提供无代码和低代码的配置方式,以及全代码配置选项,满足不同技术背景员工的需求。厂商需集成包括RAG技术在内的先进企业场景增强技术,以确保大模型在To B领域的有效应用。同时,构建一个功能丰富的公共插件中心和模板库,以支持AI Agent的能力扩展和快速构建企业级应用。此外,厂商应配备专业的咨询服务团队和AI Agent开发团队,深入企业进行需求分析和应用场景规划,确保企业能够精准投资并有效落地AI应用。开发团队则负责将规划转化为实际的AI Agent,展示平台的技术实力和业务价值。
AI Agent开发管理平台需要便于业务人员上手应用。为实现全员赋能的愿景,企业对AI Agent开发管理平台的要求不仅是技术先进,更需界面友好,易于业务人员的使用。IT部门的专业技术力量固然重要,但业务部门的广泛参与才是实现AI普及化的关键。因此,平台的设计必须考虑到业务人员的操作习惯和技术水平,提供低门槛、高效率的开发环境。
AI Agent开发管理平台应提供自然语言对话和一键创建功能,使得没有编程基础的业务人员也能轻松上手。平台的无代码和低代码配置方式,通过简化的拖拽操作,让员工能够快速构建和部署业务应用,无需编写代码。这种直观的操作方式大大降低了技术门槛,使得业务人员能够根据自己的业务需求,自主开发个性化的AI解决方案。
同时,为了满足不同技术背景的企业需求,平台还应提供全代码配置方式,为具备一定编程能力的员工提供更大的自主性和灵活性。这种方式支持开发更复杂的AI应用,满足企业在特定场景下对高级功能的需求。
AI Agent开发管理平台:集成RAG技术、插件生态与模板库的强强联合。仅依靠大模型构建AI Agent,更适合To C场景,例如写文章、做摘要等。但是,此方式难以应用于To B场景。平台必须融合先进的RAG技术以及多模态存储、向量化处理、上下文理解增强等企业场景增强技术,以实现大模型在To B领域的有效落地。RAG技术在其中扮演着至关重要的角色。
AI Agent的能力扩展在很大程度上依赖于其“手脚”——插件。平台应构建一个丰富的公共插件中心,提供覆盖新闻搜索、生产力工具、图像理解等多功能插件,以适应不同行业和场景的需求。同时,支持企业用户根据自身需求,创建自定义插件,通过参数配置快速调用现有的API能力,从而实现AI Agent功能的个性化扩展。
为了进一步提升AI Agent的构建效率和质量,平台应配备丰富的应用场景模板库。这些模板应预置多种企业级应用场景,如法律咨询、人力资源管理、营销自动化、风险控制等,使企业能够在极短的时间内快速搭建起符合特定业务需求的AI应用。
厂商应具备大模型落地规划咨询与AI Agent开发团队。企业在采购AI Agent开发管理平台时,往往会要求厂商提供应用规划类的咨询服务和应用开发服务。因此,厂商必须构建一支既精通大模型落地规划咨询,又具备强大AI Agent开发能力的专业团队。
咨询服务团队负责深入企业,通过专业的分析和洞察,帮助企业识别那些既具有高价值又具备高可行性的应用场景。他们的目标是为企业描绘出一条清晰的AI应用落地路径,确保企业投资的每一步都精准而有效。通过咨询服务,企业能够明确自身的需求和目标,为AI Agent的开发和管理奠定坚实的基础。
与此同时,AI Agent开发团队承担着将规划转化为现实的责任。他们利用自身的技术专长,帮助企业开发首批AI Agent,快速展示平台的技术实力和业务价值。这不仅为企业带来了立竿见影的效益,也为后续的内部开发工作提供了宝贵的经验和模板。
入选标准说明:
-
符合AI Agent开发管理平台市场分析的厂商能力要求;
-
近一年厂商在该市场至少服务1家企业。
03
厂商评估:火山引擎
厂商介绍:
火山引擎是字节跳动旗下的云服务平台,将字节跳动快速发展过程中积累的增长方法、技术能力和应用工具开放给外部企业,帮助企业构建体验创新、数据驱动和敏捷迭代等数字化能力,实现业务可持续增长。
产品服务介绍:
HiAgent涵盖多模型适配、智能体构建、企业应用开发管理等多项能力,是企业专属的AI应用创新平台,高度适配企业个性化需求,让业务人员可以轻松构建智能体,让业务创新不受技能限制。企业业务人员依托HiAgent可以快速构建经营助手、员工助手、智能客服、智能导购、营销文案等企业应用。
图表1:HiAgent——企业专属AI应用创新平台
厂商评估:
HiAgent通过创新的段位划分,简化了企业用户对AI Agent的认知过程,从青铜到王者,逐步引导用户深入应用。同时,HiAgent通过原厂轻咨询、内置最佳实践和应用效果评测,确保了企业能够构建出符合生产标准的AI Agent。
HiAgent:划分智能体应用的“段位”,助力企业员工轻松驾驭AI Agent。在AI Agent开发管理平台的推广过程中,一个关键挑战是企业员工对AI Agent的陌生感以及对其价值的认识不足,这导致他们缺乏采用该平台的动力。HiAgent通过创新的“段位”划分策略,有效地解决了这一问题,帮助企业用户逐步深入了解平台的能力和价值。
图表2:基于HiAgent构建不同“段位”的智能体应用
青铜段位:HiAgent为初学者提供了一个快速上手的途径,允许企业用户在5分钟内构建一个应用,无需编程基础。通过自然语言对话和一键创建功能,HiAgent内置了结构化的提示词模板和Markdown语法,增强了应用的可读性和易用性。
黄金段位:在黄金阶段,HiAgent赋予应用“记忆”和“手脚”。这里的“记忆”指的是利用大模型高级检索增强生成(Advanced RAG)技术构建的企业知识大脑,即知识库。而“手脚”则指插件功能,包括公共插件和自定义插件。HiAgent插件中心提供了丰富的插件选择,覆盖新闻搜索、生产力工具、图像理解等多个领域,满足不同行业和场景的需求。此外,用户还可以创建自定义插件,通过参数配置快速调用已有API能力,扩展智能体的功能。
王者段位:王者阶段标志着企业应用的高级阶段,HiAgent通过以下四个方面支撑构建王者级企业应用:
-
可视化拖拉拽工作流编排,允许用户在画布上灵活地编排知识库、插件、大语言模型、代码块、条件判断等功能。
-
CoT(Chain of Thought)Prompting技术,通过问题分解与推理,解决复杂问题。
-
函数调用或决策变化,实现用户意图的识别与执行。
-
Multi Agent模式,模拟人类分工协作,实现复杂、稳定的业务流程的全面AI化。
HiAgent:打造“生产级”AI Agent的三重保障。构建“Demo级AI Agent”容易,构建“生产级AI Agent”则比较困难。HiAgent通过原厂轻咨询、内置最佳实践、以及应用效果评测的三重策略,为企业提供了一条清晰的路径,以确保构建出真正能够投入生产的AI Agent。
原厂轻咨询:火山引擎提供的不仅仅是一个技术平台,更包括了原厂轻咨询服务。这种咨询服务旨在帮助企业识别和梳理具有高价值和高可行性的应用场景,从而为企业指明应用落地的路径。这种咨询服务的附加价值,在于它能够帮助企业更深入地理解AI Agent在实际业务中的应用潜力和实施策略。
内置最佳实践:在AI Agent的实际落地过程中,企业往往会面临各种挑战。火山引擎通过将解决方案内置到HiAgent中,提供了快速且有效的解决途径。例如,在处理动态数据更新的挑战时,HiAgent通过创新的方案,实现了查询效果和实时性的平衡。此外,针对AI Agent频繁更新迭代的问题,HiAgent引入了“提示词模板”功能,允许企业进行多版本提示词的管理,从而提升了用户体验和管理效率。
应用效果评测:为了确保AI Agent能够达到生产级的标准,HiAgent还提供了全面的端到端应用效果评测服务。这项服务涵盖了数据集构建、测评方法、以及基于反馈的持续改进等多个方面,确保了应用效果的可度量性和可优化性。通过这种系统性的评价机制,企业能够对AI Agent的性能和效果有一个清晰的认识,并据此进行必要的调整和优化。
HiAgent:构建企业与C端用户的新型桥梁。在数字化转型的浪潮中,企业与消费者之间的互动方式正经历着深刻的变革。“豆包App”,作为字节跳动重点投入的大模型应用,已经成为用户获取信息、解决问题、获取灵感和辅助创作的得力助手。截至2024年4月,豆包App的下载量已超过1亿次,月活跃用户数达到2600万,智能体总创建量高达800万。这些数字不仅展示了豆包App的市场影响力,也预示着其作为新兴流量入口的巨大潜力。
典型客户:
飞鹤、某知名高校、某知名三甲医院、某大型航空公司
04
入选证书