保姆级教程-如何使用LLAMA2 大模型

Meta 刚刚发布了一个名为 Llama 2 的大模型

如果你和我一样迫不及待地想要亲自动手用它来构建自己的应用，那就认真阅读这篇文章吧。

使用任何类型的 LLM 进行构建的第一步是将其托管在某处并通过 API 使用它。 然后可以轻松地将其集成到你的应用程序中

为什么要使用 llama 2？

3个方面：

安全性——让敏感数据远离第三方供应商
可靠性——确保应用程序有较快运行时间
一致性——每次提出问题都会得到相同的结果

本指南包含的内容：

1. 在 AWS sagemaker 上托管 Llama 2 模型
2. 通过 AWS Lambda 和 AWS API Gateway API 使用模型

 登录或注册 AWS 账户

1. 转到云计算服务 - Amazon Web Services (AWS) 并登录或注册帐户
   如果注册新帐户，你将自动获得免费套餐访问权限

第一部分 — 托管模型

第 1 步：转到 AWS Sagemaker
进入 AWS 仪表板后，在搜索栏中搜索 AWS Sagemaker，然后单击它以转到 AWS Sagemaker

AWS Sagemaker 是 AWS 用于部署和托管机器学习模型的方案。

步骤 2：在 AWS Sagemaker 上设置域
点击左侧边栏上的“域名”

2.创建domain

3. 选中“Quick Setup”框

4.

使用您选择的domain填写下面的表格，并填写其余选项，如屏幕截图中所示。

如果是第一次注册，请在执行角色类别中选择创建新角色。 否则，请选择您之前创建过的角色。