初始化LLM的修改,增添glm-4v和glm-3-turbo的接入,
下面是修改后的代码:
import sys
sys.path.append("../llm")
#将上级目录中的 llm 子目录添加到系统路径中,以便可以导入该目录中的模块
#导入模块和函数
from llm.zhipuai_llm import ZhipuAILLM
from llm.call_llm import parse_llm_api_key
#定义 model_to_llm 函数
def model_to_llm(model: str = None, temperature: float = 0.0, api_key: str = None):
"""
智谱:model,temperature,api_key
"""
#temperature:生成文本的温度参数,默认为 0.0。温度越高,生成的文本越随机;温度越低,生成的文本越确定。
if model in ["glm-4", "glm-4v", "glm-3-turbo"]:
#检查 model 参数是否是支持的模型之一
if api_key == None:
#用于访问API的密钥,设置默认值
api_key = parse_llm_api_key("zhipuai")
llm = ZhipuAILLM(model=model, zhipuai_api_key=api_key, temperature=temperature)
else:
#如果 model 参数不是支持的模型之一,抛出 ValueError 异常,提示不支持的模型
raise ValueError(f"model{model} not support!!!")
#返回创建的 ZhipuAILLM 对象
return llm
-
修改LLM的初始化:根据指定的模型名称、温度参数和API密钥创建并返回一个智谱AI的LLM对象,便于在后续的应用中使用该模型进行文本生成、回答问题等任务。
-
自动获取API密钥:如果未提供API密钥,函数会自动调用
parse_llm_api_key
获取默认的API密钥,简化了用户的操作。 -
模型支持和验证:函数内部验证了提供的模型名称是否受支持,确保只使用有效的模型,避免由于无效模型名称导致的错误。