Python调用讯飞星火大模型v3，Python面试必问

最新推荐文章于 2024-08-08 15:03:50 发布

2401_83946044

最新推荐文章于 2024-08-08 15:03:50 发布

阅读量846

点赞数 18

分类专栏： 2024年程序员学习文章标签： python 开发语言

本文链接：https://blog.csdn.net/2401_83946044/article/details/137237262

版权

2024年程序员学习专栏收录该内容

272 篇文章 0 订阅

订阅专栏

    print(f'请求错误: {code}, {data}')
    ws.close()
else:
    choices = data["payload"]["choices"]
    status = choices["status"]
    content = choices["text"][0]["content"]
    print(content,end ="")
    global answer
    answer += content
    # print(1)
    if status == 2:
        ws.close()

def gen_params(appid, domain,question):
“”"
通过appid和用户的提问来生成请参数
“”"
data = {
“header”: {
“app_id”: appid,
“uid”: “1234”
},
“parameter”: {
“chat”: {
“domain”: domain,
“temperature”: 0.5,
“max_tokens”: 2048
}
},
“payload”: {
“message”: {
“text”: question
}
}
}
return data

def main(appid, api_key, api_secret, Spark_url,domain, question):
wsParam = Ws_Param(appid, api_key, api_secret, Spark_url)
websocket.enableTrace(False)
wsUrl = wsParam.create_url()
ws = websocket.WebSocketApp(wsUrl, on_message=on_message, on_error=on_error, on_close=on_close, on_open=on_open)
ws.appid = appid
ws.question = question
ws.domain = domain
ws.run_forever(sslopt={“cert_reqs”: ssl.CERT_NONE})


 在随便建一个py文件，将下面代码粘进去，这个是调用客户端，上面文件是服务端

import SparkApi
#以下密钥信息从控制台获取
appid = “XXXXXXXX” #填写控制台中获取的 APPID 信息
api_secret = “XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX” #填写控制台中获取的 APISecret 信息
api_key =“XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX” #填写控制台中获取的 APIKey 信息

domain = “generalv3” # v3版本
#云端环境的服务地址
Spark_url = “ws://spark-api.xf-yun.com/v3.1/chat” # v3环境的地址（"wss://spark-api.xf-yun.com/v3.1/chat）

text =[]

length = 0

def getText(role,content):
jsoncon = {}
jsoncon[“role”] = role
jsoncon[“content”] = content
text.append(jsoncon)
return text

def getlength(text):
length = 0
for content in text:
temp = content[“content”]
leng = len(temp)
length += leng
return length

def checklen(text):
while (getlength(text) > 8000):
del text[0]
return text

if name == ‘main’:
text.clear
while(1):
Input = input(“\n” +“我:”)
question = checklen(getText(“user”,Input))
SparkApi.answer =“”
print(“星火:”,end = “”)
SparkApi.main(appid,api_key,api_secret,Spark_url,domain,question)
getText(“assistant”,SparkApi.answer)
# print(str(text))


        这里就需要把刚才控制台的信息替换掉那些xxxx


        ps：这里就是一个python的简易问答，如果想掉用接口，在这个调用文件里加一个调用函数

def spark_api(question):
“”"
:param question:
:return:
“”"

question = checklen(getText("user",question))
SparkApi.answer =""
SparkApi.main(appid,api_key,api_secret,Spark_url,domain,question)
text.clear()
return SparkApi.answer


        建议在使用接口函数调用是加上text.clear(),清除历史对话，否则在一个长的连接调用时历史的token会加越来越长，十分消耗token，不需要历史的建议clear


## 3 、应用分享


        最近作者在做项目是使用到了api辅助数据处理，其中发现在在提示词中加入一个历史对话可能会让结果更标准。下面是测试样例：

def getText(role,content):

jsoncon = {}
history_put = """['工程','货物',]\n请从上面选项中选择一个属于下面文本的分类\n左侧边坡宣传标语   
    ,结果只输出1,2 ,如果都不属于输出0
"""
text.append({'role':'user','content':history_put })
text.append({'role': 'assistant', 'content': '0'})
jsoncon["role"] = role
jsoncon["content"] = content
text.append(jsoncon)
return text


         上面代码是作者在函数中加入一串历史对话，这种思路就是每次调用都是一次历史和本次调用，这样在输出的结果上大部分都是一致的。在我测试7000条数据中仅有10条是有解释性话术。


## 4、bug问题


bug：如下图：


这个是缺少包安装这个即可：websocket-client==1.4.2


![41e5ebaf642045cdab2f4008e29ae2aa.png](https://img-blog.csdnimg.cn/41e5ebaf642045cdab2f4008e29ae2aa.png)


如下图：


这个我认为是spark\_url="ws(s)://spark-api.xf-yun.com/v3.1/chat"  # 错误案例


正确的spark\_url="wss://spark-api.xf-yun.com/v3.1/chat" 或者ws://spark-api.xf-yun.com/v3.1/chat


![5365771d336a48559a516fbf563f34be.png](https://img-blog.csdnimg.cn/5365771d336a48559a516fbf563f34be.png)


## 5、v3.5最新版接口新增功能补充


**（1） 接口参数：对应的domain参数为generalv3.5  ，ws地址3.1改成3.5**


**（2）system：设置对话背景或者模型角色**


如果想获取结合上下文的回答，需要开发者每次将历史问答信息一起传给服务端，如下示例  
         注意：text里面的所有content内容加一起的tokens需要控制在8192以内，开发者如有较长对话需求，需要适当裁剪历史信息。


**使用方法--> 旧版本传入请求数据时列表中只有usr和assistant这两个字典数据，现在要是使用system，只需要在usr前加入提示语字典如下图。**


**也就是在上文应用分享中 getText函数，text.append(                   {"role":"system","content":"你现在扮演李白，你豪情万丈，狂放不羁；接下来请用李白的口吻和用户对话。"} )后面每次调用接口都是自带system**

参数构造示例如下

{
“header”: {
“app_id”: “12345”,
“uid”: “12345”
},
“parameter”: {
“chat”: {
“domain”: “generalv3.5”,
“temperature”: 0.5,
“max_tokens”: 1024,
}
},
“payload”: {
“message”: {
# 如果想获取结合上下文的回答，需要开发者每次将历史问答信息一起传给服务端，如下示例
# 注意：text里面的所有content内容加一起的tokens需要控制在8192以内，开发者如有较长对话需求，需要适当裁剪历史信息
“text”: [
{“role”:“system”,“content”:“你现在扮演李白，你豪情万丈，狂放不羁；接下来请用李白的口吻和用户对话。”} #设置对话背景或者模型角色
{“role”: “user”, “content”: “你是谁”} # 用户的历史问题
{“role”: “assistant”, “content”: “…”} # AI的历史回答结果
# … 省略的历史对话
{“role”: “user”, “content”: “你会做什么”} # 最新的一条问题，如无需上下文，可只传最新一条问题
]
}
}
}


**（3）了functions.text字段：用于方法的注册**

参数构造示例如下,仅在原本生成的基础上，增加了functions.text字段，用于方法的注册

{
“header”: {
“app_id”: appid,
“uid”: “1234”
},
“parameter”: {

        "chat": {
            "domain": domain,
            "random_threshold": 0.5,
            "max_tokens": 2048,
            "auditing": "default"
        }
    },
    "payload": {
        "message": {
            "text": [
                {"role": "user", "content": ""} # 用户的提问
                ]
        },
        "functions": {
            "text": [
                {
                    "name": "天气查询",
                    "description": "天气插件可以提供天气相关信息。你可以提供指定的地点信息、指定的时间点或者时间段信息，来检索诗词库，精准检索到天气信息。",
                    "parameters": {
                        "type": "object",
                        "properties": {
                            "location": {
                                "type": "string",
                                "description": "地点，比如北京。"
                            },
                            "date": {
                                "type": "string",
                                "description": "日期。"
                            }
                        },
                        "required": [
                            "location"
                        ]
                    }
                },
                {
                    "name": "税率查询",
                    "description": "税率查询可以查询某个地方的个人所得税率情况。你可以提供指定的地点信息、指定的时间点，精准检索到所得税率。",
                    "parameters": {
                        "type": "object",
                        "properties": {
                            "location": {
                                "type": "string",
                                "description": "地点，比如北京。"
                            },
                            "date": {
                                "type": "string",
                                "description": "日期。"
                            }

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

最后

不知道你们用的什么环境，我一般都是用的Python3.6环境和pycharm解释器，没有软件，或者没有资料，没人解答问题，都可以免费领取（包括今天的代码），过几天我还会做个视频教程出来，有需要也可以领取~

给大家准备的学习资料包括但不限于：

Python 环境、pycharm编辑器/永久激活/翻译插件

python 零基础视频教程

Python 界面开发实战教程

Python 爬虫实战教程

Python 数据分析实战教程

python 游戏开发实战教程

Python 电子书100本

Python 学习路线规划