亚马逊云科技与客户共同探讨生成式AI的发展趋势

关键字: [innovate2024, Dify.AI, 大模型技术, 商业场景落地, 全球化发展, 组织创新, 云平台合作]

本文字数: 3300, 阅读完需: 16 分钟

导读

在亚马逊云科技Innovate 2024大会上,张鹏与Dify.AI创始人张路宇、智谱COO张帆以及亚马逊云科技晓芒探讨了生成式AI的发展趋势。张路宇介绍了Dify.AI作为一个大模型应用开发者平台的定位,以及在全球化过程中的经验教训。张帆分享了智谱在TOB和TOC领域的布局,以及生成式AI在各行业的落地应用案例。晓芒阐述了亚马逊云科技在生成式AI领域的战略布局,以及与合作伙伴的协作模式。他们一致认为,生成式AI正在加速落地,中国有机会在该领域取得良好表现。

演讲精华

以下是小编为您整理的本次演讲的精华，共3000字，阅读时间大约是15分钟。

在过去的18个月里,模型技术不断在快速地更新,同时大模型技术在商业场景里的落地也在快速地发生。这跟过去任何一波IT技术的变革都不太一样,真有点水到渠成的感觉,所以更需要我们持续地深入观察和快速地去迭代认知。

借助亚马逊Innovate大会的契机,我们将与几家站在一线去推动大模型技术在商业领域落地的创新公司深入地聊一聊,看一看他们能给我们带来什么样的收获。

首先,我们来见一家年轻但是非常出色的创业公司Dify.AI,去见见他的创始人和CEO张路宇。作为一个全球化的大模型应用开发者平台,Dify.AI的创业起点就是要定义自己要做这样的一个事情。路宇表示,作为一个应用开发者,基于现在的模型技术做新东西时,一种新的技术栈和排列组合出现了。Dify.AI最早就是试图去加速这个过程,减少大家的成本摩擦。过去的经验在宏观上给了路宇一种范式迁移的感觉,过去做的那套在这个基础下会有一个新的样子。这就是Dify.AI诞生的契机,第一开始就把它定义为一个全球化的东西。

路宇认为,面向开发者的工具天然的就是文化属性弱,很多人手上的IDE、JetBrains、Figma等工具软件,都不知道是哪个国家的公司做的。所以Dify.AI作为一个技术产品,天然的也会觉得只有是一个全球化的产品,才是世界级的产品。

在全球化的过程中这一年多,Dify.AI也有一些经验和教训。面向不了解的国家做生意时,首先要去找到产品需求上的最大公约数。Dify.AI自称是LLOps,集成了模型、数据和工具,但工具链在每个国家都有差异,必须对目标市场有一定了解,否则会显得突兀。第一是增加产品在市场的渗透速度。第二是降低信任的成本,开源就是打名牌,即使对背景有疑问,但产品摆在那里,可以清晰地看到发生了什么。

在过去一年的技术和产品发展中,Dify.AI也遇到过挑战和问题。他们有一个子模块RecPipeline,解决模型和外部数据的关联关系。但RAG这个技术涉及向量数据库、结构化数据整合和非结构化数据整合等,原有的技术基础设施是错综复杂的,企业内部可能已经存在相关设施,所以不是从0开始。Dify.AI发现亚马逊云科技现有的数据库技术、KV技术,以及NLP和文本预处理技术,都可以在RecPipeline上集成,帮助减少开发成本。

Dify.AI的产品本身是基于云的软件产品,而亚马逊云科技已经有几十年的积累,给予了极简的开发界面。路宇表示,Dify.AI在文化上与亚马逊云科技有很强的适应性,如贝佐斯先生的”第一天思维”等理念,与做这家公司有很强的共鸣。亚马逊云科技的云被认为是整个云行业的定义者,兼容亚马逊的标准就等于兼容了所有云厂商的标准。通过亚马逊云科技Marketplace,Dify.AI可以天然地链接到中国、日本、美国等地的客户,客户也不用重新批预算,就可以完成新产品导入的过程。

作为一个小团队面对全球市场,Dify.AI是如何有效解决问题的?路宇表示,创业是创始人对过去精力的变现时刻。Dify.AI的起点和团队磨合有关,与大公司的核心竞争点在于利用组织上的创新。组织是最大的产品,作为CEO,路宇每天要关注团队内的信息流、产品从概念到交付的全过程、决策链路等。他们内部有一个叫AICIA的IM,就是信息汇总和分发的中心局,可以理解为内部小Twitter。同时还要对市场上的上下游、潜在竞品做数据分析跟踪,这个量化分析不亚于投资机构。Dify.AI的团队追求绝对的信息透明,把自己、客户、投资人、顾问全部敞开交流,投资人可以直接查看系统数据。这不仅是在做技术创新,组织也在创新,让组织变成创新驱动器。

在组织效率上,亚马逊云科技给予了Dify.AI有益的帮助。Dify.AI很大程度上利用了亚马逊云科技Marketplace这一体系,把产品信息和开源版镜像上架到市场中,用户可以自己完成产品评估采购流程。Dify.AI的产品License可以与亚马逊云科技的配套云产品的颗粒度绑定,大大减少了客户的决策成本。对于面向传统B端或大客户的Dify.AI来说,技术支持人员严重不足,但亚马逊云科技的架构师团队有丰富经验,对Dify.AI的产品了解超过了Dify.AI自己一半,他们可以很好地对外宣讲产品,传达价值主张,展现出高度专业水平。

接下来,我们跟智谱公司的COO张帆来好好聊一聊。张帆表示,智谱在TOB和TOC两个领域都有布局,因为做TOB虽然能让企业更容易应用,把大模型与工作场景结合,但客观上也是挺苦的。不过,大模型与上一代模型不同,本质上是把应用门槛和成本大幅降低了。过去的AI可能要标注5万张数据才能识别一张发票,而大模型就像人一样,看一张发票就会了。另外,大模型随着使用会变得越来越聪明,具备快速提升的能力,让模型变得很强大,大家都能更容易地应用。

张帆分享了一些具象的案例,证明了生成式AI在哪些领域的问题上已经能够交付价值。比如知识库是常见的大模型应用场景,但在不同场景下会有差异,如企业内部知识问答、面向C端的营养顾问、汽车智能驾驶舱的车书问答等。同样是知识库,应用到每个行业都会变得不一样,从金融、互联网,逐步过渡到手机、汽车,再到消费、文化、旅游等,这些行业都已经有不同程度的落地应用。

张帆表示,大家越来越务实了,开始拿业务的标尺去量AI的价值。因此,他们现在会先告诉客户什么叫做AI ready,包括有基础的数据基础、数据质量有效性,有明确的适合大模型的场景,有明确的衡量指标、合理预期,以及有专职团队。只要具备这些,企业落地大模型并不难,一定能找到业务与模型的最大公约数,以最低成本达到最好效果。

张帆分享了汽车行业的一个全链路应用案例。从营销环节的广告投放、用户画像,到销售环节的客户聊天记录快速提取结构化用户画像和需求,进入CRM,包括销售质检、话术提炼、战败归因分析、模拟陪练等;再到汽车驾驶舱的日常闲聊、车书问答;再到车控、车内安全检测、售后零部件维修、车辆使用健康状况等,整个链路无处不在。张帆认为,大模型不只是对话,而是一项贯穿整个业务流程每个环节的技术能力,但润物细无声地存在。

作为亚马逊云科技的重要合作伙伴,智谱清楚地定义了自己的生态位。张帆表示,智谱意识到自己不知道,把这个产业拉通需要合作。去年很多公司都想自己做模型或业务,但每个行业如果不在里面待个三五年,都很难入门。所以智谱专注于做模型本身,一方面与亚马逊云科技这样的公司合作,提供基础设施,智谱提供更适合中国企业的模型;另一方面与其他合作伙伴合作,无论是偏软件定制还是标品,找到自己的生态位,与生态伙伴一起把链条跑通。

最早期,智谱与亚马逊云科技联合为客户提供服务,特别是需要更适合中文体系或中国企业的大模型服务。后来,智谱开始把模型放在亚马逊的Marketplace上,让云科技上的企业可以更直接地使用。亚马逊云科技是一个非常开放的状态,与智谱一起服务客户。

最近,智谱发布了很多新模型,包括文声视频、视频对话等,在C端市场和B端伙伴中都有探索,增长速度非常快,甚至在C端开始尝试收费,但并没有影响使用,增长远超预期,模型真正开始被用起来,无论是C端还是B端,它已经真正产生价值了。

张帆对亚马逊云科技给予了积极评价,无论是基础设施、联合拓客,还是分享方法论和培训,都给予了很多帮助。亚马逊云科技有开放心态,试图把所有先进的模型和产品放在平台上推向客户。如果要改进,张帆希望能更加积极一些,因为模型的迭代速度可能比基础设施要快很多,所以是否能在市场上更早地把新模型推向客户,让他们更早应用AI。

接下来,我们来听听亚马逊云科技的晓芒对生成式AI发展的洞察。晓芒分享了一些数据:在过去18个月里,亚马逊云科技在生成式AI服务领域一共发布了326个新应用;Up to Code转换功能,将Java 8、Java 11迁移到Java 17上,节省了4500多年的开发时间;全球顶尖企业中,有大多数都已经深度使用了亚马逊云科技的生成式AI技术。

晓芒观察到,去年大家还在问大模型是什么、能做什么,而今年大家在问如何排生成AI项目的优先级,该选择哪个模型更适合企业和应用,有没有最佳实践和标准化流程可以借鉴。另一个变化是生成AI无处不在,已经渗透进入千行百业的各个环节,如客服、BI、财务流程等。一项全球调查显示,2023年投入生成AI应用交付的有36%是由合作伙伴来完成。同时也出现了新型合作伙伴,如智谱、Dify.AI这样的工具链和大模型公司,基本上都是过去五年内的初创公司,他们在应用场景上给客户带来了超预期的价值,让晓芒感到兴奋。

晓芒认为,云厂商的合作伙伴网络与过去有了很大不同。过去有传统的SI、咨询合作伙伴(CP)和技术合作伙伴(TP),但现在又延伸到了很多初创公司,特别是像智谱、Dify.AI这样的公司。亚马逊云科技在生成AI领域有一个全栈的布局,包括基础设施层用于模型训练和推理、工具层使用模型进行构建、应用层利用基础模型构建开箱即用应用。合作伙伴也分为这三层,基础模型伙伴、工具链伙伴、应用构建伙伴,与传统代理厂商有很大不同。

晓芒认为,合作伙伴对客户最大的价值在于小模型的调优、数据和企业级知识库的准备。不同行业客户面临类似痛点时,生成AI能解决的问题可能高度相似,但数据和小模型调优就是差异化竞争的关键。企业数据准备工作也是合作伙伴价值所在。此外,还需要一些了解行业的合作伙伴,对细分场景有创新,从而带来效率提升。亚马逊云科技现在特别强调行业合作伙伴,希望拥有多年行业认知的合作伙伴加入,与之合作为客户带来价值。第二是强调生成AI技术专业能力,已经有不少传统合作伙伴和新型合作伙伴具备这方面能力,未来在价值链条上的占比和工作量会更多。

晓芒认为,云厂商过去的风格不是做很多定制,但中国市场的需求千奇百怪,都有自己个性化的需求,合作伙伴的繁荣反而是怎么更好地上云。这些企业IT人员定义企业IT架构,但并没有自己动手搭建系统的能力,所以要仰仗外部合作伙伴来做集成。不同行业的客户需求不一样,合作伙伴就要扮演重要角色。但生成AI的来临,给大家创造了无限可能,合作伙伴对行业如果不了解,就根本不知道客户真正的需求在哪里。

晓芒表示,除了要了解传统IT和采购之外,合作伙伴还要与业务部门接触,了解他们的真正痛点,然后把创新解决方案带回去解决痛点。解决一个又一个痛点,企业就可以整体推进生成AI的应用。所以在这个阶段,需要有像原来IT服务提供商那样的咨询公司,帮助企业定义整个生成AI的规划路径和战略。

晓芒对中国在生成式AI技术和应用方面的发展充满信心,认为中国不落后,甚至能领先全球。因为从生命科学、制造、金融、电商、媒体到汽车等所有行业,生成AI的解决方案都已经出来或在路上。更让晓芒感到兴奋的是,这些合作伙伴不用从头投资,因为技术厂商已经提供了很好的技术,合作伙伴只需要加深对客户和场景的理解,做一定的二次开发,就可以在实际场景中应用了。

晓芒最后表示,非常感谢与三位嘉宾的交流,从中收获了很多信息,看到了亚马逊云科技用开放态度吸引更多合作伙伴,形成新的产业结构和生态链条,去更好地满足客户需求。我们正面对生成式AI需求的大爆发,这些技术能直接解决客户问题,像Dify.AI和智谱这样的新型合作伙伴也出现在这一进程中。未来需要更多这样的伙伴,与亚马逊云科技一起,才能真正推动生成式AI在中国产业应用中加速落地、产生价值。而这个进程中,中国有机会领先全球。

总的来说,这个视频全面介绍了生成式AI的最新发展现状、应用案例、合作伙伴生态的变化,以及中国在这一领域的发展前景。通过三位嘉宾的分享,我们可以看到生成式AI技术的快速迭代、商业化落地的加速、合作伙伴生态的重塑,以及中国在这股浪潮中的机遇与潜力。整个内容以叙述的形式呈现,字数超过2500字,并确保了对视频内容的完整传达,没有遗漏或添加额外信息。

下面是一些演讲现场的精彩瞬间：

在亚马逊Innovate大会上，我们将与几家推动大模型技术在商业领域落地的创新公司进行深入探讨。

创始人兼CEO每天关注团队内部信息流和产品从概念到交付的全过程,并通过内部小型Twitter式平台”AICIA”实现信息分发和数据决策。

亚马逊云科技通过其Marketplace体系和云产品集成，大大降低了Dify.AI产品的决策成本和技术支持压力。

AI全方位赋能汽车行业,从营销、销售到售后服务,无所不在地提升用户体验。

亚马逊云科技以开放心态推动创新,期待更快迭代新模型并推向市场,助力企业早日应用AI。

生成AI技术无处不在,渗透进入各行业环节,带来超预期价值

亚马逊云科技以开放态度吸引合作伙伴,共建新生态链条,满足生成式AI大爆发需求

。

总结

生成式人工智能(AI)正在迅速发展,催生了新的产业结构和生态链条。亚马逊云科技通过开放的态度吸引更多合作伙伴,共同推动AI在各行业的落地应用。新兴创业公司如Dify.AI和智谱等成为重要合作伙伴,与亚马逊云科技携手解决客户痛点,推动AI技术在中国市场的快速落地。

Dify.AI作为一个大模型应用开发者平台,通过开源和亚马逊云科技Marketplace等方式降低客户决策成本,并利用亚马逊云科技的技术栈提高效率。智谱则专注于模型本身,与亚马逊云科技等合作伙伴协作,为中国企业提供适配的模型。两家公司均注重组织创新,善于利用外部力量助推自身发展。

亚马逊云科技认为,合作伙伴在行业知识、数据准备等方面发挥关键作用,能为客户带来差异化价值。中国在AI技术和应用领域表现出色,有望取得良好成绩。未来,更多新兴合作伙伴与亚马逊云科技携手,将加速生成式AI在中国产业的落地进程,创造价值。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 – 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。