通义千问(阿里百炼)SDK的使用方法

前言

    打开阿里云的大模型服务平台百炼,直观的感受就比百度的智能云好很多。明显的更加的清晰和准确。另外百炼就是阿里的通义千问的SDK版本,两者是一回事情。

一、打开官方链接

什么是百炼_大模型服务平台百炼(Model Studio)-阿里云帮助中心

基本内容如下图:

二、Key的获取

2.1、创建AccessKey

登录阿里云的服务平台,如下图:

登录后的界面,如下图:

鼠标悬停于头像之上,然后找到AccessKey的入口,如下图:

根据提示,创建RAM型用户的AccesssKey。

进入RAM访问控制界面,并创建用户,如下图:

设定密码为:**************

创建用户成功,如下图:

然后,将AccessKey ID和Access Secret分别保存如下:

*********************

*************************************

(以上是一串字母和数字混合,因为私密关系隐藏)

2.2、创建API Key

登录打开“阿里云百炼”的控制台(注意并非无需登录的阿里云百炼的文档中心)

链接:阿里云登录 - 欢迎登录阿里云,安全稳定的云计算服务平台


点击右上角的人物头像,再选点击“API Key”,如下图:

点击上图所示的按钮,先去开通模型服务。

然后继续创建API-KEY,如下图:

然后,就得到了字节的一个API KEY,如下图:

API KEY的内容:************************************************

2.3、简单实例

采用PyCharm创建一个Python3.11 的工程

跑了一个最简单的测试程序,感觉调用还是非常方便的。

我们计算这个调用大模型的简单程序的用时:

平均用时1秒多,比百度云的大模型调用的3秒多,省时间多了。

                                                   

### 如何通过阿里百炼 API 调用通义 调用通义模型需要完成几个关键步骤,包括获取 `API Key` 和使用支持的编程语言(如 Java)编写代码来发起请求。 #### 获取 API Key 为了能够访通义的大规模预训练模型接口,用户需先登录到阿里百炼平台,并按照指引创建自己的 `API Key`。具体操作是在控制台右上角的人物图标处找到相关选项,进入后可以生成一个新的密钥供后续开发使用[^3]。 #### 使用 Java SDK 进行调用 一旦拥有了有效的认证凭证即 `API Key` ,就可以利用官方提供的软件开发工具包(SDK),或者自行构建HTTP请求向目标端点发送数据交互命令。以下是基于Java环境下的一个简单实例展示如何实现这一过程: ```java import java.io.OutputStreamWriter; import java.net.HttpURLConnection; import java.net.URL; public class AliModelStudioExample { public static void main(String[] args) throws Exception { String url = "https://modelstudio.xxx/api/v1/inference"; // 替换为实际的服务地址 URL obj = new URL(url); HttpURLConnection con = (HttpURLConnection) obj.openConnection(); // 设置必要的连接属性 con.setRequestMethod("POST"); con.setRequestProperty("Content-Type", "application/json; utf-8"); con.setRequestProperty("Authorization", "Bearer YOUR_API_KEY"); // 插入您的真实API key // 启动输出模式以便写入JSON负载 con.setDoOutput(true); try(OutputStreamWriter wr = new OutputStreamWriter(con.getOutputStream(), "UTF-8")){ wr.write("{\"prompt\":\"你好\",\"max_tokens\":50}"); } int responseCode = con.getResponseCode(); System.out.println("\nSending 'POST' request to URL : " + url); System.out.println("Response Code : " + responseCode); StringBuilder response; if(responseCode >= 200 && responseCode < 300){ response = readInputStream(con.getInputStream()); }else{ response = readInputStream(con.getErrorStream()); } System.out.println(response.toString()); } private static StringBuilder readInputStream(java.io.InputStream is)throws Exception{ char[] buffer = new char[1024]; StringBuilder sb=new StringBuilder(); java.io.Reader reader=null; try{ reader= new java.io.InputStreamReader(is,"UTF-8"); while((reader.read(buffer)) != -1 ){ sb.append(buffer); } }finally{if(reader!=null)reader.close();} return sb; } } ``` 上述程序片段展示了怎样设置 HTTP 请求头以及传递 JSON 格式的主体内容给服务器以获得预测结果。注意替换模板中的占位符为自己真实的配置信息[^2]。 #### 关于 Event Stream 的处理 如果应用场景涉及到实时流式传输,则可能还需要考虑 event stream 的方式来进行更高效的双向通信。这通常适用于对话型应用或其他需要持续更新反馈的情况,在这种情况下除了基本的消息交换外还需额外关注网络稳定性等因素。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

青花瓷

您的鼓励是我创作的巨大动力!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值