Stable Diffusion是当下生成式AI领域最受欢迎的开源多模态语言-图像模型,由于其易用的接口和良好的使用体验,受到了开源社区和广大设计行业从业者的追捧。Stable Diffusion模型版本正在快速迭代,并带动了各行各业的生产力变革。目前市场上有多种围绕Stable Diffusion模型的行业解决方案,比如亚马逊云科技推出的Stable Diffusion插件解决方案。本文中,将介绍一种更加适合toC场景的解决方案,它将帮助客户从容应对大并发量的请求,达到分钟级冷启动;使用更简单的控制平面,为客户提供更灵活的架构,轻松实现各种功能模块设计;同时,它还利用Amazon Spot instances,帮助客户有效控制成本。
方案特点
根据实际客户需求和案例经验,提炼出该方案的特点如下:
-
更快速的扩容,基于KEDA、Karpenter、Bottlerocket,提供可自定义的任务粒度的自动扩容能力,且最快可以达到1分钟内业务就绪,适合高并发且对响应时间有要求的情况。
-
大幅降低成本,通过使用Amazon Spot instances和Amazon EFS,使得计算成本相较于On-demand instances可节省最高约70%,多节点场景下的存储成本相较于EBS更可节省数倍。
-
运维非常方便,方案是云原生架构,基于Amazon EKS、无服务器(Serverless)和事件驱动(Event-Driven),大部分组件无需自行管理,适合运维人手不足的情况。
-
可视化监控,提供调用流程详细的可视化,历史统计与异常检测功能,有效缩短MTTI(Mean Time to Identify)。
-
自动化部署,方案使用AWS CDK,借助编程语言的强大表达能力和高效执行效率,仅需30-40分钟就可以自动完成构建。
方案架构
方案流程如下:
-
用户将提示词和参数通过http请求的方式