大家好,我是程序锅。
github上的代码封装程度高,不利于小白学习入门。
常规的大模型RAG框架有langchain等,但是langchain等框架源码理解困难,debug源码上手难度大。
因此,我写了一个人人都能看懂、人人都能修改的大模型RAG框架小项目。
整体项目结构如下图所示:
本篇文章将介绍1.如何调用大模型API,使用到的工具有:pycharm和Anaconda,pycharm和Anaconda的安装不再赘述,如有疑问,可查看以下文章。
pycharm安装介绍
https://blog.csdn.net/qq_35054222/article/details/137057961
一、大模型API介绍
大模型的使用可以分为本地调用和远程调用。由于本地硬件资源有限,我们一般选择远程调用大模型(后续小项目,也可自己本地部署大模型)。
目前市面上的大模型有ChatGPT、GPT4、GLM4、文心一言等等,OpenAI的产品由于有关原因被限制,在此我们采用智谱AI的GLM4作为实验对象。
登录智谱AI开放平台获取获取API_key
(1) 注册账号
https://maas.aminer.cn/
新注册账号有18元的额度,足够实验了。
(2) 获取API_KEY
注意,请不要泄露自己的API Keys!
2. API文档说明
请牢记上图的API key,现在我们看一看GLM4的API调用文档。
(1)查看接口文档
(2)查看调用示例
当然,我这里只讨论最简单的API调用形式,还有很多接口的参数没有利用到。
后续我们的小项目会根据实际需求,修改代码。
二、代码实现
from zhipuai import ZhipuAI
client = ZhipuAI(api_key="") # 填写您自己的APIKey
response = client.chat.completions.create(
model="glm-4", # 填写需要调用的模型名称
messages=[
{"role": "user", "content": "作为一名营销专家,请为我的产品创作一个吸引人的slogan"},
{"role": "assistant", "content": "当然,为了创作一个吸引人的slogan,请告诉我一些关于您产品的信息"},
{"role": "user", "content": "智谱AI开放平台"},
{"role": "assistant", "content": "智启未来,谱绘无限一智谱AI,让创新触手可及!"},
{"role": "user", "content": "创造一个更精准、吸引人的slogan"}
],
)
print(response.choices[0].message)
这里修改API key即可
这样就完成了一个非常简单的大模型API调用,下一章我们将介绍RAG原理思路。