从公司创立到 IPO 上市,以及更广阔的全球布局,亚马逊云科技初创网络将为初创企业提供全生命周期的赋能服务,是中国初创企业的上云理想之选。《云上初创》是亚马逊云科技初创网络打造的深度栏目,通过深入当下热门的生成式 AI 和行业赛道,致力于挖掘具有代表性的头部初创企业的独家故事,以及投资机构和意见领袖的深入洞见。本篇内容,将带您走进 Dify,深度分享创始人的创业思路和产品经验,以及产品是如何做到 LLMOps 品类第一的故事。
关于 Dify.AI
Dify.AI(以下简称"Dify")成立于2023年3月,同年5月发布并开源了 Dify.AI ,这是一个简单易用的开源 LLM 应用开发平台。基于 LLMOps(大型语言模型运维)理念,Dify.AI 为企业提供从 Agent 构建到 AI 工作流编排、 RAG 检索、模型管理等功能,便于企业创建和运营生成式 AI 应用。自应用上线以来,Dify 迅速在开源社区受到关注,开源镜像下载数超过40万,多次登上 GitHub 全球趋势榜。同时,云端版已有十多万开发者用户,构建了数十万个应用。目前 Dify.AI 已成为安克创新、得到等领先企业的首选 LLM 应用开发平台。
集结16位志同道合的创业伙伴
2个月推出 LLMOps 产品
当在一家公司里工作创造的价值低于创业创造的价值时,你会做出什么选择?面对这个问题,Dify.AI 创始人兼 CEO 张路宇毫不犹豫地选择了“创业”这条道路。身处大模型技术发展浪潮之中,张路宇洞见了这背后的切实痛点:对于大多数开发者而言,基于现有大型语言模型、技术框架开发生成式 AI 应用仍然是一项门槛极高的任务,开发者必须花费大量时间学习各种晦涩的概念和技术研究,还得进行持续的监控和运营。
因此,张路宇希望开发这样一个 LLMOps 工具,能够面向所有人降低技术门槛、减少试错成本,在少走弯路的同时还能将时间和精力聚焦到生成式 AI 应用的落地与运营,加速梦想照进现实。得益于早年在大厂积累了丰富的开发者工具和服务经验,以及与多位有才华的同事们结下的深厚友谊,张路宇在一夜之间聚集了16位各具优势的得力干将,随后在两个月内迅速完成了产品的初步开发。“去定义一个新的品类,改变很多人的工作和生活,尤其可以激发同事们的潜力和能力,让他们不受限制的做自己喜欢的事情,这是创业最吸引我的地方。” 张路宇如是说。
2023年3月 Dify 立项,5月初成功上线 Dify.AI 第一个正式版本,并于一周后正式开源。这一决策让 Dify 实现了快速增长,仅用一年时间 GitHub stars 就超过了30,000,近两个月内在 LLM Tool 的领域增速第一的位置。目前在社区中已有200多位外部贡献者的参与,让 Dify 能够不断学习、持续迭代成长。
信息加工机制、组织能力建设
是 Dify 持续创新发展的“杀手锏”
大模型领域的竞争非常激烈,云服务商、大模型公司以及机器学习和运营的公司都进入这个领域,且研发投入、融资规模都是史无前例的。同时,几乎每周都有新的技术迭代和行业变化,这对生成式 AI 领域的创业者各方面的能力构建效率要求也提升了好几倍,包括组织能力、信息获取速度、行业认知等等。
出身大厂的张路宇深知“卷”的压力,但也准备好了应对之策。他认为 Dify 之所以能在激烈竞争中生存下来,靠的是强大的组织能力和信息吞吐量。目前,Dify 已经成为学习型组织,设立了一个信息加工机制,又名“生成式 AI 中情局”,其中包含大量有关市场情报、技术前沿和新项目的信息。团队成员会定期跟踪所有与生成式 AI 相关产品和信息,并进行分析、整理,从而为产品的发展提供指导。
“未来将进入超强单兵的时代,作为公司的总指挥,需要通过信息获取、分析和数据驱动来做出正确的决策,” 张路宇表示:“对信息的处理,也是生成式 AI 行业发展的一个非常重要的组织能力,Dify 团队也正在依靠这种能力应对市场变化和快速决策,始终保持着高密度的创新节奏。”
通过亚马逊云科技快速拓展国际业务
实现三分之一业务收益
Dify 成立的第一天,就把“全球化”刻入了 DNA。因此,如何快速地拓展国际业务、触达更广泛的目标客户群体成了 Dify 在业务拓展上的主要目标。Dify 希望能融入全球领先的云厂商网络,共创生成式 AI 解决方案,为不同开发者、企业乃至各行各业提供开箱即用的 LLM 应用开发平台,这也是 Dify 首选亚马逊云科技的关键原因。
2023年6月,Dify 成为了亚马逊云科技初创网络成员,获得了云计算资源支持,为早期阶段优化成本结构提供了很大帮助。在应用过程中,亚马逊云科技工程师还帮助 Dify 解决了向量数据库业务主机架构切换问题,实现了超过30%的成本削减。
开源产品的变现,上云是必不可少的商业渠道。如今,Dify 的产品已经上架亚马逊云科技 Marketplace(海外区),为客户提供可一键部署至 Amazon VPC 的方案,很好地满足了客户提出的安全性、可靠性需求。Dify 还被亚马逊云科技在 LinkedIn 上作为值得注意的 LLMOps 产品进行推广,加速了 Dify 国际业务的发展。经过2个月的运营,亚马逊云科技 Marketplace(海外区)渠道的营收已经占据了 Dify 海外收入的四分之一。
![ddd8144aae7b8bc66241e772869cbdf1.jpeg](https://img-blog.csdnimg.cn/img_convert/ddd8144aae7b8bc66241e772869cbdf1.jpeg)
Dify 基于亚马逊云科技架构的示意图
张路宇表示:“亚马逊云科技是全球云计算的开创者和引领者,定义了诸多云计算标准,如 Amazon S3,Dify 在与亚马逊云科技适配过程中,也进一步促使自身技术更加标准化,用户可以基于亚马逊云科技资源,利用 Dify 作为开发工具,创造出更多创新的生成式 AI 产品和服务。”
现在,Dify 支持 Amazon Bedrock 的所有大型语言模型和嵌入模型,用户只需提供他们的亚马逊云科技凭证和地区,即可立即开始在 Dify 应用程序中使用 Amazon Bedrock 的推理和嵌入模型,而且这些凭证将被安全加密并存储。
作为亚马逊初创网络的明星企业,Dify 还参与了初创网络组织的创新大赛、峰会活动、生成式 AI 沙龙等系列活动,获得了与众多生成式 AI 创新者、行业客户、上下游企业交流合作的宝贵机会,并达到了可观的品牌曝光。未来,Dify 希望借助亚马逊云科技成熟的全球网络,加速推进国际业务销售,与更多潜在客户合作,同时,也会与亚马逊云科技合作伙伴网络中更多优秀的企业开展联合创新。张路宇认为:“亚马逊云科技不仅仅是一个云服务提供商,更是创新创业者最坚实的后盾。”
Dify.AI 入选亚马逊云科技
“生成式 AI 合作伙伴计划”
2024亚马逊云科技中国峰会期间推出了“生成式 AI 合作伙伴计划”,旨在帮助企业加速生成式 AI 应用并构建竞争优势。亚马逊云科技承诺为合作伙伴提供全面支持,包括技术专家的协助、创新与服务的适配集成,以及方案上架至亚马逊云科技 Marketplace 的机会,以服务全球客户。Dify.AI 作为全球领先的 LLM 中间件产品,凭借其模型中立性和开源生态优势,成为该计划的成员之一。在下午的“创业者之日”分论坛中,张路宇在圆桌环节中就生成式 AI 的发展趋势、挑战和创业机遇分享了深刻见解,其指出成功的应用产品往往是将大模型作为一个模块与其他丰富交互元素相融合,而非完全依赖单一大模型。无论 ToC 还是 ToB,成功的关键在于从用户需求出发,提供真正解决用户痛点的产品,而非单纯堆砌新技术,保持对用户需求的洞察才是制胜关键。
Dify 还同步亮相初创网络展区,其创新产品和解决方案获得了亚马逊全球副总裁、亚马逊云科技大中华区总裁储瑞松先生的高度评价。此外,Dify 作为技术支持方参与了亚马逊云科技第二届中国生成式 AI 应用创新挑战赛,助力众多团队取得佳绩。
![66082967801bb4fcef62a092e63195ba.jpeg](https://img-blog.csdnimg.cn/img_convert/66082967801bb4fcef62a092e63195ba.jpeg)
圆桌对话
![0e1db01fd25adcd6af24a9e87534906d.jpeg](https://img-blog.csdnimg.cn/img_convert/0e1db01fd25adcd6af24a9e87534906d.jpeg)
Dify 展台
投资人洞见
很少有一项技术像大模型这样,持续拥有全球热度且不断涌现新热点,在这个飞速变化的赛道上,德联资本从大模型落地的企业级应用出发,寻找最大公约数。作为一款开源 LLM 应用开发平台,Dify.AI 融合了后端即服务(Backend as a Service)和 LLMOps 的理念,使开发者可以快速搭建以及持续改进生产级的生成式 AI 应用,将创意变为现实,助力大模型落地的最后一公里。应用开发平台作为大模型工具链,是推动生成式 AI 发展的重要基础设施,期待 Dify.AI 和亚马逊云科技一起,成为企业落地大模型应用的理想之选。
——德联资本 刘景媛
![b1a212847ab62588d05833c2f7f44b44.jpeg](https://img-blog.csdnimg.cn/img_convert/b1a212847ab62588d05833c2f7f44b44.jpeg)