▎当前,所有企业都想通过AI盈利,然而首先要解决的问题是让它成为一个高频反复使用的功能,构建AI生态是推动大模型产业发展的必然。
“没有复杂场景和数据的依托,单纯知识问答型的大模型,在行业侧没有应用前景。”钉钉总裁叶军在与钛媒体集团联合创始人、联席CEO刘湘明的对话中说。
AI大模型走进人们的视野才不到两年的时间,就已经在以前所未有的速度重塑各行各业。
不过当AI大模型从技术走向落地的过程中,仍然存在很多问题,面对这些问题,产业上下游如何合力解决,是确保大模型能在各领域发光发热的关键。
回看过去几年,SaaS企业遇见了一些前所未有的难题。“比如成本高、定制化难等。”叶军指出,“现在,为了满足市场的需求,很多SaaS软件都作出了改变,让成本更低;同时在AI大模型的影响下,高频交互界面也在变得更好用。”
今年以来,钉钉不断加码返佣政策,通过持续让利生态伙伴,和行业一起面对AI时代中国SaaS转型挑战和降本增效压力。
SaaS厂商的“新生”也得益于生态的构建。与SaaS行业的发展类似,当下的AI大模型仍处于一个使用成本较高、定制化程度较低的阶段,与此同时,AI大模型还面临着商业化的难题。一方面,国内大模型厂商价格战已经开打;另一方面,在应用层,大模型产品“大同小异”,在场景创新层面显然“后劲不足”,产品过于同质化。
如何解决这些问题,让AI大模型像SaaS一样,逐步走向便宜、好用,已成为当下的焦点。
生态一直是钉钉的优势,而在这个过程中,一个开放的平台、开放的生态就显得尤为重要——在这个平台之上,各家大模型都可以通过平台安全合规地接触到客户的场景和数据,各展所长;而对用户而言,模型的调用既可以在平台的加持下无感安全地进行,又可以混合使用多家模型进行高定制化的开发。
当AI大模型已经不仅停留在技术竞赛层面,走向应用落地的AI大模型需要的不是“闭门造车”,而是联合产业上下游,共建一个繁荣的生态。
为了让更多企业更好地、更便捷地拥抱AI带来的红利,6月26日,钉钉在北京召开了第三次生态大会。
此前,2022年首届大会上,钉钉首次厘清生态的边界,将开放作为核心战略,并明确只做PaaS这一件事;2023年,第二届生态大会上,钉钉打碎了原来固有的应用生态形式,将AI PaaS开放给生态伙伴和客户,力求借由大模型之力,帮助生态伙伴重塑产品。
今年,第三届生态大会上,钉钉宣布了对所有大模型厂商开放,希望构建一个国内最开放的AI生态。首批已有包括MiniMax、月之暗面、猎户星空、百川、智谱和零一万物等在内的6家大模型厂商接入了钉钉平台。
在叶军看来,现在很多通用大模型都没有很好的应用场景,“很多时候,好的场景比客户重要,因为场景激发创新。但对于大模型厂商而言,他们既缺好的场景,也缺客户。而通过钉钉平台,既可以帮助这些大模型厂商寻找客户、寻找场景,又可以让企业用户降低使用大模型的成本。”
Minimax创始人闫俊杰表示,和钉钉合作,看重的是钉钉上海量高活的广阔市场,和各行各业的企业,而模型能力是跟实践了多少场景相关的。
今年4月,钉钉正式上线了AI助力市场(AI Agent Store),首批推出超过200个AI助理,覆盖企业服务、行业应用、效率工具、财税法务、教育学习、生活娱乐等类目。
据统计,截至5月底,AI助理总数50万个,上架的AI助理数量已超700个。叶军告诉钛媒体APP,从目前应用来看,已经上架的700个助理中,以创作类的和RPA类的比较有代表性。
“AI能力的加持解决了传统RPA需要人工操作流程的痛点,实现了自动化流程,让RPA更智能。”叶军强调,“智能化让数字化的每个环节变得更智能。”
更进一步,以用友薪酬、墨见MoLook、售后宝等为代表的钉钉上原有的SaaS产品也正在基于钉钉的AI基座能力,积极拥抱AI,推出AI化产品,实现产品的重塑。
据悉,钉钉此次构建的开放AI生态主要有三种形式:
其一,钉钉平台结合了各个大模型的特点,与大模型厂商共同探索响应能力在钉钉一方产品中的应用场景;
其二,开发者在钉钉上创建AI助理(AI Agent)时,可以依据自身需求,调用相应的大模型产品;
其三,钉钉还联合了大模型厂商,针对不同需求,为用户提供相应的定制化解决方案,并实现私有化部署。
智谱AI COO张帆表示,大模型的应用这件事不难,但是它就是坑多,你无论是谁你都要走一遍这些事儿,踩一遍这些坑,但这个时间就大部分最大的就是机会成本。跟钉钉的合作主要是三个层面:
第一个是模型的能力的接入;第二个是共同探讨工具链的构建;第三个是把一个agent平台转化为真正的应用,不只是说在钉钉场景内的应用,而是能够延展到更多的财税法、CRM、ERP等无数的企业应用场景,能够从一个一个细微的场景让客户带来生产力的提升。
当前,所有企业都想通过AI盈利,然而首先要解决的问题是让它成为一个高频反复使用的功能,构建AI生态是推动大模型产业发展的必然。
叶军从钉钉1月份上线的AI助理的使用量来推算,中国目前用过AI的人数不会超过1000万人,“中国每年坐飞机还有1亿人呢,所以钉钉AI生态努力的第一个目标是一天要达到5000万次调用。”
以下为叶军和刘湘明对话实录,经钛媒体编辑整理。
钛媒体:你现在怎么看Agent Store的发展情况?
叶军:我认为做通用的Agent Store没有意义,如果没有场景和数据的依托,没有复杂的流程,做一个类似于纯知识问答的Agent,并没有意义。GPT上线第一天出现了300万个机器人,我一看说别玩了,这没有意义,所以钉钉非常克制,要做就做有价值的,现在我们只有700多个Agent上架。
钛媒体:你觉得什么是有意义的Agent?
叶军:有很多,一类是创作类,因为公司里面的人大部分时间都在做创作,无论是员工还是设计部门还是营销部门,做文案,做规划,做营销的海报都是做创作,这是AI时代新的创作模式。以往的创作要切换各种应用,系统之间协同也挺麻烦,在使用多个独立的AI平台时,创作产品协同起来很烦,钉钉上可以协同,不仅自己可以协同,还可以跟别人协同。
另外一类是RPA类,RPA其实在没有AI的时候已经有点起色,传统RPA是手工点来点去,批处理变成自动化流程,有了AI加持以后,RPA变得更智能。举个例子,从HR系统到订单系统再到财务系统,订单相关的状态变化,金额变化,再到后面财务人员相关的处理,和财务到银行之间的资金流走动,以前都是割裂的。RPA可以实现从销售人员到财务人员的数据状态更新。
但传统RPA有个问题,如果系统变了,按钮又有点变动,RPA无法理解和执行。但是智能化以后,AI能识别下一步的意图,它的流程会变得更智能,该不该做点击动作,或者做另外一个动作,RPA就有了判断能力,智能化让数字化的每个环节变得更智能。
这是多系统之间的协同,我们做AI跟其他厂商比最大的差异,是我们有数据和系统,这样的复杂系统反而带来了场景,成为AI发挥作用的最佳舞台。
钛媒体:现在RPA类是哪些场景用得比较好?
叶军:商店排名前几都还可以,但其实绝大部分的AI助理并没有放出来,因为是企业内部自己用,因为他的AI助理绑定他自己的数据,他不可能把他自己的AI助理给你用,当大模型出现以后,私有化的一些场景机会变得更多。
钛媒体:现在企业开发RPA类是什么流程,钉钉在里面起什么作用?
叶军:概括说,就是记忆-思维链-大模型的对接-本地数据的集成。
我们把框架搭好了,做了几部分工作。第一,对接不同的模型,我们对接了猎户星空,对接了mini max等,允许企业、开发者、超级个体开发AI助理,用户可以选择你认为最适用的大模型,或者已经在企业内部署的模型。
第二,AI助理把基本的思维链到记忆能力的工作预设好,AI的记忆能力比以前的搜索引擎所谓的个性化设置更加智能,思维可以把任务分解了,先把任务用语言模型去理解,再把它分成几个步骤,虽然还没这么先进,但我认为已经是一个巨大的进步。
第三,通过钉钉平台,可以将原本已经存在的日历、日程、文档、知识库等离散的数据集成,不再需要API调用,通过AI助理就可以实现集成。
钛媒体:你对AI助理的评价如何?用量最多的是什么?
叶军:从用户使用量来讲,现在每天大概有100多万使用量,人均使用7次,调用量大概在1000万次每天。用量最多的是钉钉自己集成的AI助理。
钛媒体:Agent Store应用“浅”的现状,是否也代表了现在整个AI的应用现状?
叶军:我认为AI还处于早期阶段。现在的应用还局限在聊天的场景中。但AI大模型真正的价值在于集成独特数据后的私有化场景,只有当大模型进入项目中、进入企业中,才是它真正落地的开始。
基于此,钉钉非常坚定地走企业路线,对接企业数据,让AI可以直接对接企业内部数据库,并通过模型管理直接产生报表。
并且,以后业务部门的人员也可以通过简单地配置数据库,构建赋能各自业务的大模型。
钛媒体:未来,Agent与酷应用的关系如何?
叶军:酷应用是一个交互界面,最大价值是各个功能推送给用户。有了大模型以后,企业可以通过调用小组件的方式,自愿地与交互界面交互。而酷应用与大模型的结合,也能通过酷应用结构化的本质,解决大模型“幻觉”的问题。
要想解决大模型“幻觉”的问题,就一定要考虑用结构化的数据表单辅助Agent。酷应用与低代码很大程度上,解决了结构化数据的问题。
钛媒体:你觉得钉钉团队在AI时代,产品和团队最大的变化是什么?
叶军:AI给钉钉整体带来了很大的变化,大到所有模块都可以让AI重塑。
以前的钉钉更多的属性是聊天工具。现在,钉钉融合了大量应用场景,并通过RPA串联到一起,带来了与原先截然不同的交互体验。我们取消了原先很多臃肿的功能,采用了另一种方式。以钉钉团队审批为例,钉钉审批现在不超过三级,将决策责任还给申请发起人的一线员工,实现自驱,这样才能让公司更灵活,速度更快。
钛媒体:还有哪些其他的变化?
叶军:第一,现在可以借助AI的能力进行记忆跟处理文档。企业可以将文档内容“喂”给AI,从而通过AI整理出要点,并帮助人“记忆”。
第二,对于没有特别强技术能力的企业,也可以用类似无代码的AI助理,构建企业内部客服、外部客服,内部员工知识库,外部产品手册等相对标准化的场景。
第三,在需要创作的场景,企业可以将工作系统和生产系统、营销系统深度集成,通过AI大模型的能力,帮助企业进行智能决策,以及生产计划的排期。当然,这一步需要进行一定程度的定制化开发,让大模型懂你的业务系统。
钛媒体:企业走到第三步,让大模型与业务系统深度融合的主要障碍是什么?
叶军: 最大的阻碍还是工程的成本,因为这并不是一个可以通过产品化的手段,快速推进的过程。
但这个阻碍也给很多公司带来了机会。很多公司以前做项目,现在做AI集成,有了AI以后,很多企业的产品体验发生了变化。
如果这个变化不够大,对他们来说动力就不够。以钉钉为例,现在钉钉的产品中到处都是AI,相较于其他技术,带来的改变是颠覆性的。但因为钉钉用户群体多样性的原因,钉钉还是需要一步一步去改变,不能为了一类人,把另一类人的习惯改掉。
这点对于任何新鲜事物而言,都是一样的,需要一定的周期性。
钛媒体:AI生态怎么做?钉钉在其中扮演什么角色?
叶军:钉钉起到了一个推动的作用。像这次已经有接近100家SaaS企业进行了AI改造,与钉钉进行了集成。但我觉得还不够,因为很多公司还是舍不得投入AI产业,因为产出不够明显。
钛媒体:对这些进行了AI改造的SaaS公司,你看到最大的变化是什么?
叶军:通过AI改造,SaaS企业把自己软件交互方式改了,让SaaS软件的高频界面交互更好用了。再积累一段时间,SaaS市场也将通过AI有一些改观,这些SaaS公司的成本会通过大模型技术而降低。
钛媒体:你觉得无论是SaaS,还是Agent,通过AI改造,未来会在哪几个应用场景里取得突破?
叶军:首先,最明显的就是客服的场景。尤其是30秒以内的客服电话,完全可以全面AI化,从而省下很多人力成本。
其次,RPA联动多个系统,也是突破比较明显的场景。以前的RPA过于死板,有个大模型与AI助理后,可以进行批量处理,这就特别适合财务、电商等场景的批量处理使用。
钛媒体:未来Agent付费的模式可能会有很大变化,首先它不像软件那么难收费、怎么卖都觉得贵,而且未来的软件可能就是买Agent。
叶军:Agent的价格其实对标的是某项任务的成本。比如某项任务本来要花多少时间或者人力成本,用Agent之后是怎么样,这很好衡量。包括RPA也一样,原本要花两个小时的事情,现在十分钟干完,这就是节省下来时间的成本。
钛媒体:你觉得未来对一个生态来说,扶持一个SaaS应用和扶持一个未来AI的应用,或者AI Agent,不同的地方是什么?
叶军:现在做AI原生的企业还比较少,有一些SaaS企业在做,但因为生存挑战的压力,这些只是作为差异化竞争力,并没有成为核心产品。但未来一定会诞生出AI原生的创业企业。
SaaS的服务端肯定是不变的,但前端的交互侧应该全部是以助理形态简单处理的,我觉得这种形态的SaaS,就有点像新型公众号、新型小程序,以前从没想过小程序也可以玩游戏,以后AI应该也会变得这么复杂。
钛媒体:在你看来,AI原生应用和AI改进应用,有多大区别?
叶军:现在大部分还是加AI助手的插件型应用,只是取代了一个任务,并没有取代一个产业、一个产品,只是改变了单一任务的子任务的效率。
而AI原生应用研发的流程、包括公司大小都会发生变化。比如,一个人创办自己的小公司,创业的第一天开发的就是原生应用,就不会再做原来的界面交互、工程师的流程体系,只需要串联核心逻辑,调用数据,把主要精力投入到AI训练上,只需要做AI的调优、知识库、记忆管理,思维链优化……从公司的人员结构、工作量分配、项目管理都会发生很大变化。
钛媒体:要真正做一个AI的生态,会赋予合作伙伴什么样不同的能力?
叶军:会提供两种能力。在模型生态中,我们把场景给到伙伴。因为现在通用大模型都缺场景,当然也缺客户,我们也可以给他客户。但是我觉得场景比客户重要,因为场景激发创新。
钉钉会结合各大模型的特点,与大模型厂商共同探索相应能力在钉钉一方产品中的场景应用,发挥不同大模型的特长。也会开放AI助理(AI Agent)创建,开发者可以依据自身需求,选择相应的大模型。
对SaaS产品,我们把它的主界面注入钉钉聊天的高频页面,也把酷应用区块开放出来。对于应用创作生态来讲,合作伙伴最终要拿到的是用户。
钛媒体:你怎么评价这次合作的这些不同的大模型,他们擅长的能力是什么? 怎么谈条款、价格、合作方式?
叶军:我们会跟厂商聊,他们倾向做哪类场景。大模型有不同的参数,价格、推理速度、能力都不同,我们会把特点写清楚,用户按需自由选择。
目前是官方限时免费,但后面会按照功能的复杂度来决定收费。目前和厂商聊的商业模式基本上是按功能订阅付费,我们一个重要判断是认为次数不会成为瓶颈,因为大模型调用降价的现状,次数只是写在那里,但估计永远达不到。
钛媒体:AI的生态跟原来SaaS的生态完全不一样。
叶军:因为AI生态加工的是数据,而原来SaaS生态加工的是流程,流程相对比较通用,是一个抽象的结果,每个环节做什么由系统自己决定,但是AI直接进到“怎么做”里面去了,是由数据决定的。
钛媒体:当初用通义大模型把钉钉的场景整个跑了一遍,现在用一大堆的模型再去探索一遍,目前你发现有什么不同?
叶军:第一,可以迸发更多的客户的需求。第二,这几个大模型性能和成本还是不一样,他们存在必然是因为差异化,确实存在一些专长。第三,客户的差异化。整体来说是市场更加生态化,对业态发展一定是有益的。
钛媒体:钉钉现在也在做自己的一方产品,包括自己的AI助手。未来AI生态里的边界在哪儿?
叶军:今天,我们把这个边界限制在Agent入口和定义创造,Agent本身的能力技能、背后的推理能力以及结果都交给生态。AI Agent背后要做很多交互,我们把响应能力都交给生态,相当于是把CPU交给了生态,我们做总线、做串联,保证所有核心部件流通,并且有一个统一的界面。
钛媒体:在生态中,数据如何有效隔离,保证安全,同时还能融通起来、发挥更大的效应?这个尺度怎么把握?钉钉算是一个看门人的角色。
叶军:我们一开始就在做租户隔离,现在隔离得越来越干净了。现在也做了很多关键数据的本地化存储,比如文件、文档、邮箱、低代码的流程、IM聊天消息都可以本地化。一些小企业还不太在意这个事情,因为他觉得不值得投入这个成本,但企业规模做大以后就很在意,那么可以拿走,进行本地训练,在本地使用模型。我认为很多大企业都会走到这一步。
钛媒体:现在接入大模型的企业,一部分是通过钉钉这类平台去用大模型,但也有一些企业,尤其是大企业,会选一个大模型直接自己开发,你怎么看待这两种模式的利弊?
叶军:选哪个大模型很大程度上是个商业行为、市场行为。大企业有很多定制化、客制化的需求,是深度应用,要做大量的针对性调整,特别是行业化的大模型,需要自己去找模型开发。但小企业没有这么深入的需求就不用这么做,投入成本太高。
刘湘明:所以钉钉这一轮其实主要服务于中小企业。
叶军:我觉得大部分是中小企业,如果是大企业在平台上直接调整模型,只有一个可能性——那个场景并不是一个客制化很严重的场景,而是通用场景,实现的最低成本就是在平台上挑。如果是客制化的,就要IT部门做深度化定制,要进行业感知。
钛媒体:最后,你觉得在这一轮AI生态的建设中,钉钉的机会,包括未来的盈利模式会不会有些变化?
叶军:不光是钉钉,所有的企业都想在AI上盈利。而盈利之前,首先要解决的问题是让它成为一个高频反复使用的功能,所以我给自己定了一个目标:一天要有5000万次调用。
达到这个目标,我就可以讲这个故事了,可以从成本推导出盈利空间有多大,这是个基数。而且达到这个调用次数以后,我就不太关心调用具体几次了,因为调用次数到达一定程度,边际成本变得很低,就不会按几次来收费了,而是直接给个固定金额。但问题是,你有没有这样一个让用户高频使用的功能?但现在我们和很多SaaS的模型伙伴交流发现,他们也没有找到特别好的盈利之路,如果最后都变成做项目的模式,最后就会“死”掉。
那么,如何系统的去学习大模型LLM?
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ ,朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》,扫码获取~
篇幅有限,部分资料如下:
👉LLM大模型学习指南+路线汇总👈
💥大模型入门要点,扫盲必看!
💥既然要系统的学习大模型,那么学习路线是必不可少的,这份路线能帮助你快速梳理知识,形成自己的体系。
👉大模型入门实战训练👈
💥光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
👉国内企业大模型落地应用案例👈
💥《中国大模型落地应用案例集》 收录了52个优秀的大模型落地应用案例,这些案例覆盖了金融、医疗、教育、交通、制造等众多领域,无论是对于大模型技术的研究者,还是对于希望了解大模型技术在实际业务中如何应用的业内人士,都具有很高的参考价值。 (文末领取)
💥《2024大模型行业应用十大典范案例集》 汇集了文化、医药、IT、钢铁、航空、企业服务等行业在大模型应用领域的典范案例。
👉LLM大模型学习视频👈
💥观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。 (文末领取)
👉640份大模型行业报告👈
💥包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
👉获取方式:
这份完整版的大模型 LLM 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓