Python调用讯飞星火大模型v3(1)

print(" ")

收到websocket连接建立的处理

def on_open(ws):
thread.start_new_thread(run, (ws,))

def run(ws, *args):
data = json.dumps(gen_params(appid=ws.appid, domain= ws.domain,question=ws.question))
ws.send(data)

收到websocket消息的处理

def on_message(ws, message):
# print(message)
data = json.loads(message)
code = data[‘header’][‘code’]
if code != 0:
print(f’请求错误: {code}, {data}')
ws.close()
else:
choices = data[“payload”][“choices”]
status = choices[“status”]
content = choices[“text”][0][“content”]
print(content,end =“”)
global answer
answer += content
# print(1)
if status == 2:
ws.close()

def gen_params(appid, domain,question):
“”"
通过appid和用户的提问来生成请参数
“”"
data = {
“header”: {
“app_id”: appid,
“uid”: “1234”
},
“parameter”: {
“chat”: {
“domain”: domain,
“temperature”: 0.5,
“max_tokens”: 2048
}
},
“payload”: {
“message”: {
“text”: question
}
}
}
return data

def main(appid, api_key, api_secret, Spark_url,domain, question):
wsParam = Ws_Param(appid, api_key, api_secret, Spark_url)
websocket.enableTrace(False)
wsUrl = wsParam.create_url()
ws = websocket.WebSocketApp(wsUrl, on_message=on_message, on_error=on_error, on_close=on_close, on_open=on_open)
ws.appid = appid
ws.question = question
ws.domain = domain
ws.run_forever(sslopt={“cert_reqs”: ssl.CERT_NONE})


 在随便建一个py文件,将下面代码粘进去,这个是调用客户端,上面文件是服务端



import SparkApi
#以下密钥信息从控制台获取
appid = “XXXXXXXX” #填写控制台中获取的 APPID 信息
api_secret = “XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX” #填写控制台中获取的 APISecret 信息
api_key =“XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX” #填写控制台中获取的 APIKey 信息

domain = “generalv3” # v3版本
#云端环境的服务地址
Spark_url = “ws://spark-api.xf-yun.com/v3.1/chat” # v3环境的地址("wss://spark-api.xf-yun.com/v3.1/chat)

text =[]

length = 0

def getText(role,content):
jsoncon = {}
jsoncon[“role”] = role
jsoncon[“content”] = content
text.append(jsoncon)
return text

def getlength(text):
length = 0
for content in text:
temp = content[“content”]
leng = len(temp)
length += leng
return length

def checklen(text):
while (getlength(text) > 8000):
del text[0]
return text

if name == ‘main’:
text.clear
while(1):
Input = input(“\n” +“我:”)
question = checklen(getText(“user”,Input))
SparkApi.answer =“”
print(“星火:”,end = “”)
SparkApi.main(appid,api_key,api_secret,Spark_url,domain,question)
getText(“assistant”,SparkApi.answer)
# print(str(text))


        这里就需要把刚才控制台的信息替换掉那些xxxx


        ps:这里就是一个python的简易问答,如果想掉用接口,在这个调用文件里加一个调用函数



def spark_api(question):
“”"
:param question:
:return:
“”"

question = checklen(getText("user",question))
SparkApi.answer =""
SparkApi.main(appid,api_key,api_secret,Spark_url,domain,question)
text.clear()
return SparkApi.answer

        建议在使用接口函数调用是加上text.clear(),清除历史对话,否则在一个长的连接调用时历史的token会加越来越长,十分消耗token,不需要历史的建议clear


## 3 、应用分享


        最近作者在做项目是使用到了api辅助数据处理,其中发现在在提示词中加入一个历史对话可能会让结果更标准。下面是测试样例:


        



def getText(role,content):

jsoncon = {}
history_put = """['工程','货物',]\n请从上面选项中选择一个属于下面文本的分类\n左侧边坡宣传标语   
    ,结果只输出1,2 ,如果都不属于输出0
"""
text.append({'role':'user','content':history_put })
text.append({'role': 'assistant', 'content': '0'})
jsoncon["role"] = role
jsoncon["content"] = content
text.append(jsoncon)
return text

         上面代码是作者在函数中加入一串历史对话,这种思路就是每次调用都是一次历史和本次调用,这样在输出的结果上大部分都是一致的。在我测试7000条数据中仅有10条是有解释性话术。


## 4、bug问题


bug:如下图:


这个是缺少包安装这个即可:websocket-client==1.4.2


![41e5ebaf642045cdab2f4008e29ae2aa.png](https://img-blog.csdnimg.cn/41e5ebaf642045cdab2f4008e29ae2aa.png)


如下图:


这个我认为是spark\_url="ws(s)://spark-api.xf-yun.com/v3.1/chat"  # 错误案例


正确的spark\_url="wss://spark-api.xf-yun.com/v3.1/chat" 或者ws://spark-api.xf-yun.com/v3.1/chat


![5365771d336a48559a516fbf563f34be.png](https://img-blog.csdnimg.cn/5365771d336a48559a516fbf563f34be.png)


## 5、v3.5最新版接口新增功能补充


**(1) 接口参数:对应的domain参数为generalv3.5  ,ws地址3.1改成3.5**


**(2)system:设置对话背景或者模型角色**


如果想获取结合上下文的回答,需要开发者每次将历史问答信息一起传给服务端,如下示例  
         注意:text里面的所有content内容加一起的tokens需要控制在8192以内,开发者如有较长对话需求,需要适当裁剪历史信息。


**使用方法--> 旧版本传入请求数据时列表中只有usr和assistant这两个字典数据,现在要是使用system,只需要在usr前加入提示语字典如下图。**


**也就是在上文应用分享中 getText函数,text.append(                   {"role":"system","content":"你现在扮演李白,你豪情万丈,狂放不羁;接下来请用李白的口吻和用户对话。"} )后面每次调用接口都是自带system**




参数构造示例如下

{
“header”: {
“app_id”: “12345”,
“uid”: “12345”
},
“parameter”: {
“chat”: {
“domain”: “generalv3.5”,
“temperature”: 0.5,
“max_tokens”: 1024,
}
},
“payload”: {
“message”: {
# 如果想获取结合上下文的回答,需要开发者每次将历史问答信息一起传给服务端,如下示例
# 注意:text里面的所有content内容加一起的tokens需要控制在8192以内,开发者如有较长对话需求,需要适当裁剪历史信息
“text”: [
{“role”:“system”,“content”:“你现在扮演李白,你豪情万丈,狂放不羁;接下来请用李白的口吻和用户对话。”} #设置对话背景或者模型角色
{“role”: “user”, “content”: “你是谁”} # 用户的历史问题
{“role”: “assistant”, “content”: “…”} # AI的历史回答结果
# … 省略的历史对话
{“role”: “user”, “content”: “你会做什么”} # 最新的一条问题,如无需上下文,可只传最新一条问题
]
}
}
}


**(3)了functions.text字段:用于方法的注册**



参数构造示例如下,仅在原本生成的基础上,增加了functions.text字段,用于方法的注册

{
“header”: {
“app_id”: appid,
“uid”: “1234”
},
“parameter”: {

        "chat": {
            "domain": domain,
            "random_threshold": 0.5,
            "max_tokens": 2048,
            "auditing": "default"
        }
    },
    "payload": {
        "message": {
            "text": [
                {"role": "user", "content": ""} # 用户的提问
                ]
        },
        "functions": {
            "text": [
                {
                    "name": "天气查询",
                    "description": "天气插件可以提供天气相关信息。你可以提供指定的地点信息、指定的时间点或者时间段信息,来检索诗词库,精准检索到天气信息。",
                    "parameters": {
                        "type": "object",
                        "properties": {
                            "location": {
                                "type": "string",
                                "description": "地点,比如北京。"
                            },
                            "date": {
                                "type": "string",
                                "description": "日期。"
                            }
                        },

最后

不知道你们用的什么环境,我一般都是用的Python3.6环境和pycharm解释器,没有软件,或者没有资料,没人解答问题,都可以免费领取(包括今天的代码),过几天我还会做个视频教程出来,有需要也可以领取~

给大家准备的学习资料包括但不限于:

Python 环境、pycharm编辑器/永久激活/翻译插件

python 零基础视频教程

Python 界面开发实战教程

Python 爬虫实战教程

Python 数据分析实战教程

python 游戏开发实战教程

Python 电子书100本

Python 学习路线规划

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里无偿获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

  • 12
    点赞
  • 26
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值