GPT实战系列-ChatGLM3管理工具的API接口

Alex_StarSky

已于 2024-03-18 23:41:11 修改

阅读量1.3k

点赞数 13

分类专栏： GPT实战系列文章标签： ChatGLM3 tools GPT langchain 大模型助手 LLM 股票查询

于 2024-01-08 22:33:31 首次发布

本文链接：https://blog.csdn.net/Alex_StarSky/article/details/135468084

版权

本文介绍了如何在ChatGLM3中配置和使用外部工具，如查询股票信息和天气的querystock工具，以构建大模型查询助手。详细讲解了如何调用工具及参数设置，展示了通过模型整合工具调用的实际操作过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

GPT实战系列-ChatGLM3管理外部借力工具

用ChatGLM的工具可以实现很多查询接口和执行命令，外部工具该如何配置使用？如何联合它们实现大模型查询助手功能？例如调用工具实现股票信息查询，网络天气查询等助手功能。

GPT实战系列-LangChain + ChatGLM3构建天气查询助手

大模型查询工具助手之股票免费查询接口

GPT实战系列-简单聊聊LangChain

GPT实战系列-大模型为我所用之借用ChatGLM3构建查询助手

GPT实战系列-Baichuan2本地化部署实战方案

GPT实战系列-大话LLM大模型训练

配置tools信息

tools = [
	{
   'name': 'querystock', 
     'description': '查询指定股票的实时价格', 
     'parameters': 
     	{
   'type': 'object', 
         'properties'

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Alex_StarSky

关注关注

13
点赞
踩
13

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

专栏目录

AI大模型探索之路-应用篇16：GLM大模型-ChatGLM3 API开发实践

寻道AI，探索AI无限可能！

04-19

2857

本章节旨在深入探索ChatGLM3所提供的丰富API接口，不仅覆盖GLM特有的代码风格API开发实践，还包括遵循OpenAI风格的API开发方式。我们将通过具体的操作步骤和实际案例，详细阐述如何利用核心工具Function Call来扩展模型功能，以及如何将这种强大的功能直接应用于实际应用中。随着内容的展开，读者将逐步掌握如何灵活使用ChatGLM3-6B的强大功能，开发出智能化的解决方案，满足不断变化的业务需求。

【AI】ChatGLM3-6B模型API调用测试

zhoulizhu的博客

12-21

7220

接口url请求参数"functions": functions, # 函数定义"model": model, # 模型名称"messages": messages, # 会话历史"stream": use_stream, # 是否流式响应"max_tokens": 100, # 最多生成字数"temperature": 0.8, # 温度"top_p": 0.8, # 采样概率请求的方式有流式和非流式请求，对应请求参数中stream的True和False，请求方式的处理可以参照官方给出的方法。

参与评论您还未登录，请先登录后发表或查看评论

Python 全栈系列227 部署chatglm3-API接口

yukai08008的博客

02-27

2287

上一篇介绍了基于算力租用的方式部署chatglm3, 见；本篇接着看如何使用API方式进行使用。

ChatGLM模型通过api方式调用响应时间慢怎么破，Fastapi流式接口来解惑，能快速提升响应速度

热门推荐

xuxu96

04-10

2万+

chatgpt的fastapi流式部署方法

chatglm3的api调用

caoyongsheng的博客

01-10

1435

anaconda启动jupyter.启动ok，然后内网映射后。

【ChatGLM4系列】入门介绍以及API调用

艰难困苦，玉汝于成。

10-15

4984

GLM 全名 General Language Model ，是一款基于自回归填空的预训练语言模型。北京时间2024年1月16日，智谱AI正式推出GLM-4新一代基座大模型，整体性能相比GLM3全面提升60%，根据实际测试，GLM-4在以中文为主的应用场景中实际性能逼近GPT-4的95%，在一些中文对齐的测试中，甚至超过GPT-4表现，逼近GPT-4-turbo模型。此外，GLM-4支持128K对话上下文，并且支持更强的多模态功能、支持更快推理速度，更多并发，大大降低推理成本；

GPT实战系列-搭建LangChain流程简单应用

Alex_StarSky的博客

03-04

1439

LangChain是一个Python框架，让我们可以使用LLMs构建应用程序。它与各种模型连接，使与LLM和提示管理有关的一切变得简单。

GPT实战系列-一种构建LangChain自定义Tool工具的简单方法

Alex_StarSky的博客

03-07

1945

随着OpenAI的GPT-4这样的大型语言模型（LLMs）已经风靡全球，现在让它们自动执行各种任务，如回答问题、翻译语言、分析文本等。LLMs是在交互上真正体验到像“人工智能”。 LangChain在这方面发挥重要作用。LangChain使构建由LLMs驱动的应用程序变得简单，使用LangChain，可以在统一的界面中轻松与不同类型的LLMs进行交互，管理模型版本，管理对话版本，并将LLMs连接在一起。

GPT实战系列-LangChain的Prompt提示模版构建

Alex_StarSky的博客

03-18

1639

Prompt模版是用于生成语言模型提示的预定义模版。模板可能包括说明、小样本示例，和特定的上下文和问题（适合于特定的任务）。LangChain提供创建和使用提示模板的工具，其实也没有做太多的工作，就是字符串格式化操作差不多。模版与模型无关，使其适应在不同的语言模型中重复使用。

GPT实战系列-实战Qwen通义千问在Cuda 12+24G部署方案

Alex_StarSky的博客

01-16

4062

通义千问 Qwen测试在显卡内存24G，排除了Qwen14非量化方案Qwen-14B-Chat，只有 Qwen-7B-Chat，Qwen-7B-Chat-Int4，Qwen-14B-Chat-Int4 模型可用。

部署ChatGLM3 api接口访问，微调模型

2401_83692861的博客

04-10

1193

打开LLaMA-Factory项目data文件夹下的dataset_info.json,最后一行插入。2.一切看起来都非常的简单,现在只需要学会配置训练集和添加自己的训练集,就能完成大模型微调。新建self_cognition.json，插入数据。使用LLaMA-Factory，loar微调。1.下载/安装LLaMA-Factory。4.测试api，成功的话会终端显示对话。*本地调用测试失败，暂时没有解决。

ChatGLM3-6B的本地api调用

xiangxiang613的专栏

01-10

8076

content”: “从前，在一个遥远的国度里，有一个美丽的村庄。有一天，一位智者来到了村子的广场，他跟村民们分享了这样一个故事：\n\n从前，有一片荒芜的土地，上面长满了各种美丽的花草。有一天，一只小鸟飞过来，告诉村子里的居民们，这片土地是一个魔法之地，只要每个人都在广场上许下一个美好的愿望，魔法”,可以看到，ChatGLM3-6B的默认调用接口和传递参数，及返回结果的参数与chatGLM2-6B的API有非常大的区别，并不兼容，需要有较大的修改。注意是POST方法！

调用本地魔塔Chatglm3的 api，FastAPI

Aorg1的博客

12-11

1699

利用fastAPI搭建本地魔塔 chatglm3 api ，并调用

ChatGLM3-6B 的调用参数说明，chat 与stream_chat 接口函数的参数说明

白袍小将的博客

12-20

8126

本文通过查看源代码，总结了ChatGLM3-6B两个接口函数，model.chat, model.stream_chat的参数使用说明，便于使用时查阅。

【chatglm3】（3）：在AutoDL上，使用4090显卡，部署ChatGLM3API服务，并微调AdvertiseGen数据集，完成微调并测试成功！附视频演示。

freewebsys的专栏

11-13

4533

载处理好的 AdvertiseGen 数据集，将解压后的 AdvertiseGen 目录放到本目录下。对于输入输出格式的微调，可使用 inference.py 进行基本的推理验证。AdvertiseGen以商品网页的标签与文案的信息对应关系为基础构造。来下载和将数据集处理成上述格式。完全可以满足内部使用了。

【ChatGLM3】（5）：使用 fastchat 部署ChatGLM3服务，启动8bit的worker，可以运行openai_api服务和web界面方便进行测试。还支持embeddings 接口！

freewebsys的专栏

11-18

7392

•最先进模型的权重、训练代码和评估代码（例如Vicuna、FastChat-T5）。•基于分布式多模型的服务系统，具有Web界面和与OpenAI兼容的RESTful API。FastChat是一个用于训练、部署和评估基于大型语言模型的聊天机器人的开放平台。可以成功部署 bge-zh 模型进行 embedding 的向量化，还是非常方便的。经过实验，可以发现使用fastchat可以成功部署ChatGLM3 进行对话。需要python3的环境，因为启动模型，需要nvidia的镜像。

ChatGLM3在windows10上部署与调试

11-24

2352

ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。一、ChatGLM3介绍。二、ChatGLM3下载。

国产大语言模型ChatGLM3本地搭建、使用和功能扩展

m0_63171455的博客

06-05

1834

ChatGLM3]

使用 Sealos 将 ChatGLM3 接入 FastGPT，打造完全私有化 AI 客服

云原生实验室

11-02

3432

是一款开箱即用的 AI 知识库问答系统。该系统具备可视化工作流功能，允许用户灵活地设计复杂的问答流程，几乎能满足各种客服需求。在国内市场环境下，离线部署对于企业客户尤为重要。由于数据安全和隐私保护的考虑，企业通常不愿意将敏感数据上传到线上大型 AI 模型 (如 ChatGPT、Claude 等)。因此，。幸运的是，，除了可以使用其在线服务外，也允许用户进行私有化部署。正好上周 ChatGLM 系列推出了其最新一代的开源模型——ChatGLM3-6B。

各个大模型模型参数量