使用 Azure OpenAI 模型

在本文中

  1. 型号更新
  2. 查看退休日期
  3. 模型部署升级配置
  4. 通过 API 更新和部署模型

Azure OpenAI 服务由具有不同功能和价格点的多种模型提供支持。型号可用性因地区而异

您可以使用模型列表 API获取可用于 Azure OpenAI 资源推理和微调的模型列表。

型号更新

Azure OpenAI 现在支持选定模型部署的自动更新。在提供自动更新支持的模型上,在 Azure OpenAI Studio 中的“创建新部署”“编辑部署”下可以看到模型版本下拉列表:

您可以在 Azure OpenAI 模型版本一文中详细了解Azure OpenAI 模型版本及其工作原理。

自动更新为默认值

当您将部署设置为自动更新为默认 时,您的模型部署将在默认版本更改后两周内自动更新。对于预览版本,在新预览版本发布两周后,当有新的预览版本可用时,它会自动更新。

如果您仍处于推理模型的早期测试阶段,我们建议您部署模型并在可用时自动更新为默认集。

具体型号版本

随着 Azure OpenAI 使用的不断发展,您开始构建应用程序并与应用程序集成,您可能需要手动控制模型更新。在升级之前,您可以首先测试并验证您的应用程序行为是否与您的用例一致。

当您为部署选择特定模型版本时,该版本将保持选中状态,直到您选择手动更新或到达模型的停用日期。当达到停用日期时,模型将自动升级到停用时的默认版本。

查看退休日期

对于当前部署的模型,从 Azure OpenAI Studio 选择Deployments

要从 Azure OpenAI Studio 查看给定区域中所有可用模型的停用日期,请选择“模型” > “列选项” >“选择弃用微调”“弃用推理”

模型部署升级配置

您可以检查为Azure OpenAI Studio中之前部署的模型设置了哪些模型升级选项。选择部署> 在部署名称列下,选择以蓝色突出显示的部署名称之一。

选择部署名称将打开模型部署的属性。您可以在版本更新策略下查看为您的部署设置了哪些升级选项:


 

还可以通过RESTAzure PowerShellAzure CLI访问相应的属性。

共有三种不同的模型部署升级选项:


 

笔记

null相当于AutoUpgradeWhenExpired.如果支持模型升级的模型的属性中不存在“版本更新策略”null选项,则表明该值为“当前” 。显式修改此值后,该属性将在工作室属性页面以及通过 REST API 中可见。

例子

PowerShell

查看 Azure PowerShell入门指南以在本地安装 Azure PowerShell,也可以使用Azure Cloud Shell

以下步骤演示了检查VersionUpgradeOption选项属性以及更新它:

PowerShell

// Step 1: Get Deployment

$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment VersionUpgradeOption

$deployment.Properties.VersionUpgradeOption

// VersionUpgradeOption can be null - one way to check is

$null -eq $deployment.Properties.VersionUpgradeOption

// Step 3: Update Deployment VersionUpgradeOption

$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"

New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

// If not sure about deployment name, use this command to show all deployments under an account

Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

PowerShell

// To update to a new model version

// Step 1: Get Deployment

$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment Model properties

$deployment.Properties.Model.Version

// Step 3: Update Deployed Model Version

$deployment.Properties.Model.Version = "0613"

New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

通过 API 更新和部署模型

HTTP协议

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01

路径参数

支持的版本

请求正文

这只是可用请求正文参数的子集。有关参数的完整列表,您可以参考REST API 参考文档

请求示例

Bash

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \

  -H "Content-Type: application/json" \

  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \

  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

笔记

有多种方法可以生成授权令牌。初始测试最简单的方法是从Azure 门户启动 Cloud Shell 。然后跑az account get-access-token。您可以使用此令牌作为 API 测试的临时授权令牌。

响应示例

{

  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",

  "type": "Microsoft.CognitiveServices/accounts/deployments",

  "name": "gpt-35-turbo",

  "sku": {

    "name": "Standard",

    "capacity": 120

  },

  "properties": {

    "model": {

      "format": "OpenAI",

      "name": "gpt-35-turbo",

      "version": "0613"

    },

    "versionUpgradeOption": "OnceCurrentVersionExpired",

    "capabilities": {

      "chatCompletion": "true"

    },

    "provisioningState": "Succeeded",

    "rateLimits": [

      {

        "key": "request",

        "renewalPeriod": 10,

        "count": 120

      },

      {

        "key": "token",

        "renewalPeriod": 60,

        "count": 120000

      }

    ]

  },

  "systemData": {

    "createdBy": "docs@contoso.com",

    "createdByType": "User",

    "createdAt": "2023-02-28T02:57:15.8951706Z",

    "lastModifiedBy": "docs@contoso.com",

    "lastModifiedByType": "User",

    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"

  },

  "etag": "\"GUID\""

}

下一步

反馈

即将推出:整个 2024 年,我们将逐步淘汰 GitHub Issues 作为内容反馈机制,并用新的反馈系统取而代之。有关详细信息,请参阅:Provide feedback for Microsoft Learn content - Contributor guide | Microsoft Learn


 

  • 29
    点赞
  • 19
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值