大模型热潮后 ,亚马逊云服务也推出了自己的 Amazon Bedrock 大模型平台,为用户提供云端的大模型全托管服务。具体来说,用户可以在 Amazon Bedrock 上托管流行的多款开源大模型,并使用简化的 API 访问模型。用户可以使用 Amazon Bedrock 训练好的基础模型,也可以使用自己的数据对这些模型进行微调。
不管是开发人员还是企业团队,在踏足大模型应用的世界时都会面临一个选项:是自建硬件基础设施来训练和推理大模型,还是直接采购托管云服务?亚马逊云服务是全球云服务的主流品牌,很多用户在考虑大模型服务时都会将 Amazon Bedrock 作为首选。那么我们就来对比一下 Amazon Bedrock 与自建基础设施的大致成本,看看该如何选择更为划算。
Amazon Bedrock 提供了多个模型选项,包括 AI21Labs、Amazon Titan、Anthropic、Cohere 和 Stability AI。我们选择大众用户使用最为广泛的 Stability AI 为例,用 SDXL0.8 AI 图像生成模型来对比价格。
Amazon Bedrock 官网提供的 Stability AI 报价如下:
可以看到单张图像的生成费用介于 0.018 至 0.072 美元之间。实践应用中,我们使用的往往是最高质量的图像,也就是每张 0.072 美元。亚马逊还提供了预配置吞吐量选项,遗憾的是我在 Amazon Bedrock 的预配置吞吐量购买选项中没有找到 SDXL 的报价: