1.智谱大模型的API调用方法:(python示例)
API申请网址:智谱AI开放平台
1.ChatOpenAI调用案例(不支持glm-9b)
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model='glm-4-plus', #自定义智谱平台支持的大模型(glm_9b模型不能使用)
openai_api_key="Api_key", # 填入智谱平台申请的API_KEY
openai_api_base="https://open.bigmodel.cn/api/paas/v4/"
)
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content="" #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content) #信息内容导入
#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query) #模型问题回答
2. OpenAI调用案例(不支持glm-9b)
from openai import OpenAI
client = OpenAI(
base_url='https://open.bigmodel.cn/api/paas/v4/',
api_key='Api_key', # 填入智谱平台申请的API_KEY
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model =("glm-4-plus"), #
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
3. ZhipuAI调用案例(支持glm-9b)
from zhipuai import ZhipuAI
client = ZhipuAI(
base_url='https://open.bigmodel.cn/api/paas/v4/',
api_key='Api_key', # 填入智谱平台申请的API_KEY
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model =("glm-4-plus"), #
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
2. 千问大模型的API调用方法:(python示例)
1.API申请网址1(每天免费额度1000次):魔搭社区
2. API申请网址2:百炼控制台
1.ChatOpenAI调用案例:
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#百炼平台
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model="qwen-plus" #自定义模型
api_key="Api_key", # 填入百炼平台申请的API_KEY
openai_api_base="https://dashscope.aliyuncs.com/compatible-mode/v1" # 百炼URL
)
#魔塔社区
#model = ChatOpenAI(
# temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
# model="Qwen2.5-7