主流AI大模型的python代码调用和代码示例

1.智谱大模型的API调用方法:(python示例)

API申请网址:智谱AI开放平台

1.ChatOpenAI调用案例(不支持glm-9b)

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model='glm-4-plus', #自定义智谱平台支持的大模型(glm_9b模型不能使用)
        openai_api_key="Api_key",  # 填入智谱平台申请的API_KEY 
        openai_api_base="https://open.bigmodel.cn/api/paas/v4/"
     )
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content=""   #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content)    #信息内容导入

#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query)   #模型问题回答

2. OpenAI调用案例(不支持glm-9b)

from openai import OpenAI
client = OpenAI(
    base_url='https://open.bigmodel.cn/api/paas/v4/',
    api_key='Api_key',  # 填入智谱平台申请的API_KEY 
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model =("glm-4-plus"),  #
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

3. ZhipuAI调用案例(支持glm-9b)

from zhipuai import ZhipuAI
client = ZhipuAI(
    base_url='https://open.bigmodel.cn/api/paas/v4/',
    api_key='Api_key',  # 填入智谱平台申请的API_KEY 
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model =("glm-4-plus"),  #
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

2. 千问大模型的API调用方法:(python示例)

1.API申请网址1(每天免费额度1000次):魔搭社区

2. API申请网址2:百炼控制台

1.ChatOpenAI调用案例:

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#百炼平台
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model="qwen-plus" #自定义模型
        api_key="Api_key",  # 填入百炼平台申请的API_KEY 
        openai_api_base="https://dashscope.aliyuncs.com/compatible-mode/v1"   # 百炼URL
     )
#魔塔社区
#model = ChatOpenAI(
#       temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
#       model="Qwen2.5-7
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值