Amazon Bedrock 是亚马逊云服务今年新推出的基础大模型云端全托管服务,用户可以在 Amazon Bedrock 平台上访问流行的多款开源大模型,以及亚马逊云服务自行研发的 Titan 系列大模型。这些大模型分别涉及文本生成、图像生成和自然语言对话领域,包括 Claude、Stable Diffusion 等预训练模型选项。
用户第一次访问 Amazon Bedrock 服务时,往往会兴奋地进入 Playground 页面尝试预训练模型的效果:
结果失望地发现可用模型非常少,简直可以用贫乏来形容。明明 Amazon Bedrock 宣称自己提供了很多模型,为什么只能用很少的几个呢?
答案是很多模型需要获得使用许可才能访问:
进入页面右侧的基础模型菜单,可以看到 Amazon Bedrock 列出了很多模型选项,但点击其中的大部分框架都会提示模型暂时无法访问。我们点击 Model access 即可进入访问控制页面:
可以看到列出的模型分为几种状态:Access granted 是已经可以访问的状态,Unavailable 是指目前暂时无法访问,需要等待模型走出 Preivew 阶段,向更多用户开放。我们可以操作的是以下两种状态:需要用例细节(Use case details required)和根据需求开放(Available to request)。
对于需要用例细节的模型,我们点击页面右上方的管理模型访问(Manage model access)按钮,就可以进入以下页面:
我们只需点击提交用例细节(Submit use case details)就可以申请提交:
在弹出的以上页面中,填写你的公司名称、网站地址、所属行业,选择用户群属于内部还是外部,选择模型用途(生成内容/代码、提供金融/法律/医疗服务、对特定人士生成内容、对青少年或少数群体生成内容、管理内容、非以上用途)。下面再填入用例说明,点击提交按钮即可。
对于按需访问的模型,可以在前一个页面中勾选模型前面的复选框:
点击下方的保存更改按钮即可。通过提交用例申请获得许可的模型,前方的复选框会从灰色变为可以点击。选中的模型都可以开始访问,根据用户使用计费。
至此,我们就获得了 Amazon Bedrock 中预置的多数模型的访问权限,可以在 Playground 中开始试用,并开始后续工作了。这些模型的用户授权协议可以点击 EULA 查看。不过要注意,全选可用模型选项后,很可能会因为随意操作而产生意外的模型使用费用,我们需要谨慎小心哦。