亚马逊云科技提供扩容迅速、成本低、维护方便的Stable Diffusion开源方案

本文介绍了亚马逊云科技提供的Stable Diffusion开源方案,该方案具备快速扩容能力,能在1分钟内业务就绪,适合高并发场景。通过使用Amazon Spot instances和EFS,成本可降低最多70%。方案基于Kubernetes,使用AWS Lambda、SQS、SNS等服务,提供自动化部署和可视化监控,简化运维,适合toC业务。
摘要由CSDN通过智能技术生成

 Stable Diffusion是当下生成式AI领域最受欢迎的开源多模态语言-图像模型,由于其易用的接口和良好的使用体验,受到了开源社区和广大设计行业从业者的追捧。Stable Diffusion模型版本正在快速迭代,并带动了各行各业的生产力变革。目前市场上有多种围绕Stable Diffusion模型的行业解决方案,比如亚马逊云科技推出的Stable Diffusion插件解决方案。本文中,将介绍一种更加适合toC场景的解决方案,它将帮助客户从容应对大并发量的请求,达到分钟级冷启动;使用更简单的控制平面,为客户提供更灵活的架构,轻松实现各种功能模块设计;同时,它还利用Amazon Spot instances,帮助客户有效控制成本。

 方案特点

 根据实际客户需求和案例经验,提炼出该方案的特点如下:

  • 更快速的扩容,基于KEDA、Karpenter、Bottlerocket,提供可自定义的任务粒度的自动扩容能力,且最快可以达到1分钟内业务就绪,适合高并发且对响应时间有要求的情况。

  • 大幅降低成本,通过使用Amazon Spot instances和Amazon EFS,使得计算成本相较于On-demand instances可节省最高约70%,多节点场景下的存储成本相较于EBS更可节省数倍。

  • 运维非常方便,方案是云原生架构,基于Amazon EKS、无服务器(Serverless)和事件驱动(Event-Driven),大部分组件无需自行管理,适合运维人手不足的情况。

  • 可视化监控,提供调用流程详细的可视化,历史统计与异常检测功能,有效缩短MTTI(Mean Time to Identify)。

  • 自动化部署,方案使用AWS CDK,借助编程语言的强大表达能力和高效执行效率,仅需30-40分钟就可以自动完成构建。

 方案架构

 方案流程如下:

  • 用户将提示词和参数通过http请求的方式࿰

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值