print(" ")
收到websocket连接建立的处理
def on_open(ws):
thread.start_new_thread(run, (ws,))
def run(ws, *args):
data = json.dumps(gen_params(appid=ws.appid, domain= ws.domain,question=ws.question))
ws.send(data)
收到websocket消息的处理
def on_message(ws, message):
# print(message)
data = json.loads(message)
code = data[‘header’][‘code’]
if code != 0:
print(f’请求错误: {code}, {data}')
ws.close()
else:
choices = data[“payload”][“choices”]
status = choices[“status”]
content = choices[“text”][0][“content”]
print(content,end =“”)
global answer
answer += content
# print(1)
if status == 2:
ws.close()
def gen_params(appid, domain,question):
“”"
通过appid和用户的提问来生成请参数
“”"
data = {
“header”: {
“app_id”: appid,
“uid”: “1234”
},
“parameter”: {
“chat”: {
“domain”: domain,
“temperature”: 0.5,
“max_tokens”: 2048
}
},
“payload”: {
“message”: {
“text”: question
}
}
}
return data
def main(appid, api_key, api_secret, Spark_url,domain, question):
wsParam = Ws_Param(appid, api_key, api_secret, Spark_url)
websocket.enableTrace(False)
wsUrl = wsParam.create_url()
ws = websocket.WebSocketApp(wsUrl, on_message=on_message, on_error=on_error, on_close=on_close, on_open=on_open)
ws.appid = appid
ws.question = question
ws.domain = domain
ws.run_forever(sslopt={“cert_reqs”: ssl.CERT_NONE})
在随便建一个py文件,将下面代码粘进去,这个是调用客户端,上面文件是服务端
import SparkApi
#以下密钥信息从控制台获取
appid = “XXXXXXXX” #填写控制台中获取的 APPID 信息
api_secret = “XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX” #填写控制台中获取的 APISecret 信息
api_key =“XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX” #填写控制台中获取的 APIKey 信息
domain = “generalv3” # v3版本
#云端环境的服务地址
Spark_url = “ws://spark-api.xf-yun.com/v3.1/chat” # v3环境的地址("wss://spark-api.xf-yun.com/v3.1/chat)
text =[]
length = 0
def getText(role,content):
jsoncon = {}
jsoncon[“role”] = role
jsoncon[“content”] = content
text.append(jsoncon)
return text
def getlength(text):
length = 0
for content in text:
temp = content[“content”]
leng = len(temp)
length += leng
return length
def checklen(text):
while (getlength(text) > 8000):
del text[0]
return text
if name == ‘main’:
text.clear
while(1):
Input = input(“\n” +“我:”)
question = checklen(getText(“user”,Input))
SparkApi.answer =“”
print(“星火:”,end = “”)
SparkApi.main(appid,api_key,api_secret,Spark_url,domain,question)
getText(“assistant”,SparkApi.answer)
# print(str(text))
这里就需要把刚才控制台的信息替换掉那些xxxx
ps:这里就是一个python的简易问答,如果想掉用接口,在这个调用文件里加一个调用函数
def spark_api(question):
“”"
:param question:
:return:
“”"
question = checklen(getText("user",question))
SparkApi.answer =""
SparkApi.main(appid,api_key,api_secret,Spark_url,domain,question)
text.clear()
return SparkApi.answer
建议在使用接口函数调用是加上text.clear(),清除历史对话,否则在一个长的连接调用时历史的token会加越来越长,十分消耗token,不需要历史的建议clear
## 3 、应用分享
最近作者在做项目是使用到了api辅助数据处理,其中发现在在提示词中加入一个历史对话可能会让结果更标准。下面是测试样例:
def getText(role,content):
jsoncon = {}
history_put = """['工程','货物',]\n请从上面选项中选择一个属于下面文本的分类\n左侧边坡宣传标语
,结果只输出1,2 ,如果都不属于输出0
"""
text.append({'role':'user','content':history_put })
text.append({'role': 'assistant', 'content': '0'})
jsoncon["role"] = role
jsoncon["content"] = content
text.append(jsoncon)
return text
上面代码是作者在函数中加入一串历史对话,这种思路就是每次调用都是一次历史和本次调用,这样在输出的结果上大部分都是一致的。在我测试7000条数据中仅有10条是有解释性话术。
## 4、bug问题
bug:如下图:
这个是缺少包安装这个即可:websocket-client==1.4.2
![41e5ebaf642045cdab2f4008e29ae2aa.png](https://img-blog.csdnimg.cn/41e5ebaf642045cdab2f4008e29ae2aa.png)
如下图:
这个我认为是spark\_url="ws(s)://spark-api.xf-yun.com/v3.1/chat" # 错误案例
正确的spark\_url="wss://spark-api.xf-yun.com/v3.1/chat" 或者ws://spark-api.xf-yun.com/v3.1/chat
![5365771d336a48559a516fbf563f34be.png](https://img-blog.csdnimg.cn/5365771d336a48559a516fbf563f34be.png)
## 5、v3.5最新版接口新增功能补充
**(1) 接口参数:对应的domain参数为generalv3.5 ,ws地址3.1改成3.5**
**(2)system:设置对话背景或者模型角色**
如果想获取结合上下文的回答,需要开发者每次将历史问答信息一起传给服务端,如下示例
注意:text里面的所有content内容加一起的tokens需要控制在8192以内,开发者如有较长对话需求,需要适当裁剪历史信息。
**使用方法--> 旧版本传入请求数据时列表中只有usr和assistant这两个字典数据,现在要是使用system,只需要在usr前加入提示语字典如下图。**
**也就是在上文应用分享中 getText函数,text.append( {"role":"system","content":"你现在扮演李白,你豪情万丈,狂放不羁;接下来请用李白的口吻和用户对话。"} )后面每次调用接口都是自带system**
参数构造示例如下
{
“header”: {
“app_id”: “12345”,
“uid”: “12345”
},
“parameter”: {
“chat”: {
“domain”: “generalv3.5”,
“temperature”: 0.5,
“max_tokens”: 1024,
}
},
“payload”: {
“message”: {
# 如果想获取结合上下文的回答,需要开发者每次将历史问答信息一起传给服务端,如下示例
# 注意:text里面的所有content内容加一起的tokens需要控制在8192以内,开发者如有较长对话需求,需要适当裁剪历史信息
“text”: [
{“role”:“system”,“content”:“你现在扮演李白,你豪情万丈,狂放不羁;接下来请用李白的口吻和用户对话。”} #设置对话背景或者模型角色
{“role”: “user”, “content”: “你是谁”} # 用户的历史问题
{“role”: “assistant”, “content”: “…”} # AI的历史回答结果
# … 省略的历史对话
{“role”: “user”, “content”: “你会做什么”} # 最新的一条问题,如无需上下文,可只传最新一条问题
]
}
}
}
**(3)了functions.text字段:用于方法的注册**
参数构造示例如下,仅在原本生成的基础上,增加了functions.text字段,用于方法的注册
{
“header”: {
“app_id”: appid,
“uid”: “1234”
},
“parameter”: {
"chat": {
"domain": domain,
"random_threshold": 0.5,
"max_tokens": 2048,
"auditing": "default"
}
},
"payload": {
"message": {
"text": [
{"role": "user", "content": ""} # 用户的提问
]
},
"functions": {
"text": [
{
"name": "天气查询",
"description": "天气插件可以提供天气相关信息。你可以提供指定的地点信息、指定的时间点或者时间段信息,来检索诗词库,精准检索到天气信息。",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "地点,比如北京。"
},
"date": {
"type": "string",
"description": "日期。"
}
},
最后
不知道你们用的什么环境,我一般都是用的Python3.6环境和pycharm解释器,没有软件,或者没有资料,没人解答问题,都可以免费领取(包括今天的代码),过几天我还会做个视频教程出来,有需要也可以领取~
给大家准备的学习资料包括但不限于:
Python 环境、pycharm编辑器/永久激活/翻译插件
python 零基础视频教程
Python 界面开发实战教程
Python 爬虫实战教程
Python 数据分析实战教程
python 游戏开发实战教程
Python 电子书100本
Python 学习路线规划
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!