概述
亚马逊 Bedrock 是亚马逊云科技(AWS)推出的旗舰服务,旨在推动生成式人工智能(AI)在各行业中的广泛应用。其核心功能是提供由顶尖AI公司(如 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和亚马逊)开发的多种基础模型(FMs)。这些模型是各种AI应用的基础,经过针对特定用例和行业需求的优化。
亚马逊 Bedrock 的独特之处在于其统一的模型访问方式,通过单一API即可访问多个模型。这一简化的开发流程,使用户能够轻松与多种基础模型进行交互,而无需进行大量代码修改。此外,Bedrock 还提供强大的定制化功能,用户可以根据自己的领域或任务对预训练模型进行微调,从而提升模型的性能和准确性。
亚马逊 Bedrock 的另一个亮点是对高级AI技术的支持,如检索增强生成(RAG)。通过结合基于检索的模型和生成模型的优势,RAG能够在自然语言处理(NLP)任务中生成上下文相关且精准的回复。Bedrock 基于无服务器架构,免去基础设施管理的复杂性,让用户专注于构建AI应用。同时,它还与其他AWS服务无缝集成,确保兼容现有的基础设施、安全特性和数据管理工具。
亚马逊 Bedrock 非常重视安全性、隐私性和负责任的AI实践,为用户提供全面的控制和防护措施,保障敏感数据的安全,并在AI开发和部署的整个生命周期内维护高标准的道德准则。总的来说,亚马逊 Bedrock 为各类组织提供了一个全面的平台,助力其利用生成式AI驱动创新,同时严格遵循安全、隐私和道德标准。
架构图
验证 Bedrock 模型访问权限
-
确保您位于美国东部(弗吉尼亚北部)区域,即 us-east-1 区域。
-
点击顶部的“服务”菜单,然后选择“Bedrock”导航到 Bedrock 页面。
-
在 Bedrock 页面左侧菜单中选择“Model Access”(模型访问)。
-
向下滚动到 AI21 Labs 模型部分,确认模型访问权限已授予。
创建 SageMaker Notebook 实例
-
确保您位于美国东部(弗吉尼亚北部)区域,即 us-east-1 区域。在顶部搜索栏中搜索 Amazon SageMaker,并导航到 SageMaker 服务页面。
-
在 SageMaker 仪表板上,从左侧菜单中选择“Notebook”(笔记本),然后选择“Notebook instances”(笔记本实例)。
-
点击“Create notebook instance”(创建笔记本实例)按钮。
- 为笔记本实例填写以下信息:
- 名称:SageMakerInstance
- 笔记本实例类型:ml.t2.medium
- 平台标识符:Amazon Linux 2, Jupyter Lab 3
- IAM 角色选择:SageMakerInstanceRole
- 保留其余设置为默认。
- 点击“Create Notebook instance”(创建笔记本实例)按钮。
- 为笔记本实例填写以下信息:
-
等待状态变为“InService”,笔记本实例的创建可能需要5分钟。
-
在笔记本实例的操作栏中点击“Open Jupyter”(打开 Jupyter)。
生成电子邮件回复
在此步骤中,我们将使用 Amazon Bedrock 基础模型生成电子邮件回复。
-
在 JupyterLab 中点击“New”按钮,并从下拉框中选择 conda_python3 笔记本。
-
点击“Files”菜单中的“Rename”按钮,将笔记本重命名为 Demo_Email_generation。
-
将以下代码粘贴到 Jupyter Notebook 的代码块中,以使用 Stable Diffusion 模型生成图像。
import boto3 import json prompt_data = """ Compose a response email to Demo Labs, informing them about the process of email generation using Amazon Bedrock """ bedrock = boto3.client(service_name="bedrock-runtime") payload = { "prompt": prompt_data, "maxTokens": 512, "temperature": 0.8, "topP": 0.8, } body = json.dumps(payload) model_id = "ai21.j2-mid-v1" response = bedrock.invoke_model( body=body, modelId=model_id, accept="application/json", contentType="application/json", ) response_body = json.loads(response.get("body").read()) response_text = response_body.get("completions")[0].get("data").get("text") print(response_text)
-
点击“Run”按钮运行代码。
-
成功执行后,您将获得电子邮件回复作为输出。
总结
通过本教程,我们展示了如何使用 Amazon Bedrock 基础模型来生成电子邮件回复。整个过程包括创建 SageMaker Notebook 实例、设置 JupyterLab 环境、运行代码并最终生成所需的电子邮件内容。这一过程不仅展现了 Amazon Bedrock 的强大功能,还证明了它在简化生成式AI应用中的实用性。通过这些步骤,用户可以轻松地集成和使用顶尖AI模型来自动化日常任务,提升工作效率。