本地部署ChatGLM大模型出现文件丢失、找不到的情况

最新推荐文章于 2023-12-10 14:34:01 发布
最新推荐文章于 2023-12-10 14:34:01 发布
阅读量595 收藏 10
点赞数 7
文章标签： python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hhhlbs/article/details/134612359
版权

在本地部署ChatGLM时出现了一个许多人会犯的错误：在最后运行"python web_demo.py"时出现找不到下载的config.json。

找了许多方法，最后发现是浏览器在下载官网的config.json文件时把json文件后缀名改成了txt，最后将文件后缀名修改为与官网一致即运行成功。

hhhlbs
关注
  • 7
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
ChatGLM-6B does not appear to have a file named config.json.
weixin_45751925的博客
07-11 3084
ChatGLM-6B使用了和ChatGLM相同的技术，针对中文问答和对话进行了优化经过约1T标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62亿参数的ChatGLM-6B已经能生成相当符合人类偏好的回答。ChatGLM-6B使用了和ChatGLM相同的技术，针对中文问答和对话进行了优化经过约1T标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62亿参数的ChatGLM-6B已经能生成相当符合人类偏好的回答。若存在，可能是下载错误，重新下载。
【大模型-第一篇】在阿里云上部署ChatGLM3
Cyber的博客
11-10 7128
本文主要是让大家能快速完成ChatGLM3在阿里云上的部署
Chatglm2使用及微调教程
benben044的专栏
07-20 3932
chatglm2是清华大学的，比较好的LLM大语言模型。本教程主要是提供使用及微调的方法，适合linux上开发。
ChatGLM2-6B、ChatGLM-6B 模型介绍及训练自己数据集实战
dream_home8407的博客
04-12 4万+
ChatGLM2-6B 模型介绍及训练实战
ChatGLM3-6B和langchain知识库阿里云部署
最新发布
m0_52695557的博客
12-10 6813
看了几天chatglm和langchain的部署，经过不断报错，终于试出了可以运行的方案，不过本地知识库搭建还有问题，要再看看。本文主要介绍ChatGLM3-6B的部署和实现效果，和Chatglm2-6b+langchain结合的实现效果。提示：以下是本篇文章正文内容，下面案例可供参考。
ChatGLM服务器部署微调（一）
gem_Microphone的博客
05-24 833
ChatGLM在服务器上部署运行过程截图展示
ChatGLM2-6B从本地加载模型报错-解决办法
Aorg1的博客
09-06 9043
ChatGLM2-6b大模型本地部署报错解决方案 OSError: /chatglm2-6b does not appear to have a file named config.json. Checkout 'https://huggingface.co/chatglm2-6b/None' for available files.
大语言模型-RLHF(二)——LoRA实现&代码逐行讲解
qjzcy的博客
06-14 6164
为方便学习，对ChatGlm的代码做了逐行解读，这里主要是lora方法使用，里面核心的部分如数据的解析，loss的定义，lable制作，lora调用的框架流程等。将输入转化为我们想要的input和lable格式，注意这里输入的特征是已经转化为id的特征，根据我们自己的数据和需要定义，重写 compute_loss 方法，计算模型的损失。（1）将promot和input，target转化为我们想要的input格式。整体代码如下，文件获取可以参考git。1，数据处理，两个功能。3，loss计算定义。
大语言模型 RLHF(一)——ChatGLM代码逐行解读
qjzcy的博客
06-07 5557
为方便学习，对ChatGlm的代码做了逐行解读，这里主要是main方法，里面核心的部分如数据的解析，模型推理训练的框架流程。后续会针对ChatGLM核心优化代码做个解读，
LLaMA的解读与其微调(含LLaMA 2)：Alpaca-LoRA/Vicuna/BELLE/中文LLaMA/姜子牙
热门推荐
结构之法 算法之道
03-22 7万+
还开始研究一系列开源模型(包括各自对应的模型架构、训练方法、训练数据、本地私有化部署、硬件配置要求、微调等细节)​该项目部分一开始是作为此文《》的第4部分，但但随着研究深入 为避免该文篇幅又过长，将把『第4部分 开源项目』抽取出来 独立成本文。
【基于ChatGLM搭建本地化知识库 windows10系统】第一部分：Langchain-Chatchat本地化部署，内附遇到问题及解决办法（GPU版本，亲测有效）
wkchaha673的博客
12-02 5265
【基于ChatGLM搭建本地化知识库 windows10系统】第一部分：Langchain-Chatchat本地化部署，内附遇到问题及解决办法（GPU版本，亲测有效）
魔搭社区LLM模型部署实践， 以ChatGLM3为例（二）
Maynor的博客
11-12 955
Xinference支持大语言模型， 语音识别模型， 多模态模型的部署， 简化了部署流程， 通过一行命令完 成模型的部署工作。并支持众多前沿的大语言模型， 结合GGML技术， 支持多端部署。chatglm.cpp的github地址是：https://github.com/li-plus/chatglm.cpp。魔搭社区和Xinference合作， 提供了模型GGML的部署方式， 以ChatGLM3为例。之后再Launch Model中搜索刚刚创建的模型名称， 点击火箭标识运行即可使用。
LLMs之ChatGLM-3：ChatGLM3/ChatGLM3-6B的简介—“对话格式”功能介绍(推理系统如何解析参数/采用Python代码形式/编写工具调用的代码/Manual Mode)、推理演
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
11-10 6584
​ LLMs之ChatGLM3：ChatGLM3/ChatGLM3-6B的简介—“对话格式”功能介绍(推理系统如何解析参数/采用Python代码形式/编写工具调用的代码/Manual Mode)、推理演示(Chat/Tool/Code Interpreter)、微调(AdvertiseGen/ToolAlpaca)实现之图文教程攻略 目录 相关文章 ChatGLM3的“对话格式”功能的简介及其使用方法 ChatGLM3的推理演示 ChatGLM3的微调
angular引入json文件报错找不到模块“../assets/config/config.json”。请考虑使用 “--resolveJsonModule“ 导入带 “.json“ 扩展的模块。
nansen0324的博客
08-17 4280
angular引入json报错
轻松搭建本地知识库的ChatGLM2-6B
Python，数据分析，机器学习，深度学习
09-08 4793
近期发现了一个项目，它的前身是ChatGLM，在我之前的博客中有关于ChatGLM的部署过程，本项目在前者基础上进行了优化，可以基于当前主流的LLM模型和庞大的知识库，实现本地部署自己的ChatGPT，并可结合自己的知识对模型进行微调，让问答中包含自己上传的知识。依托于本项目支持的开源 LLM 与 Embedding 模型，本项目可实现全部使用模型。与此同时，本项目也支持 OpenAI GPT API 的调用，并将在后续持续扩充对各类模型及模型 API 的接入。
ChatGLM两代的部署/微调/实现：从基座GLM、ChatGLM的LoRA/P-Tuning微调、6B源码解读到ChatGLM2的微调与实现
结构之法 算法之道
03-31 6万+
随着『GPT4多模态/Microsoft 365 Copilot/Github Copilot X/ChatGPT插件』的推出，绝大部分公司的技术 产品 服务，以及绝大部分人的工作都将被革新一遍类似iPhone的诞生 大家面向iOS编程 有了App Store现在有了ChatGPT插件/GPT应用商店，以后很多公司 很多人面向GPT编程(很快技术人员分两种，一种懂GPT，一种不懂GPT)然ChatGPT/GPT4基本不可能开源了，而通过上文《
ChatGLM部署问题——ValueError: Unrecognized configuration class ＜class ‘transformers_modules.chatglm-6b.co
weixin_40964597的博客
06-06 7430
ChatGLM模型部署过程的bug
本地安装部署运行 ChatGLM-6B 的常见问题解答以及后续优化
chaishen10000的专栏
06-18 1万+
如果你电脑内存实在捉襟见肘的话，可以选择直接使用现成的INT4量化模型，这样内存中只需要占用5.5GB左右了，使用GPU运行时，8G内存的电脑也可以一战了，使用CPU运行时，可以允许24GB甚至16GB内存的电脑运行，显著降低运行配置。比如将 Temperature 设置为 0.05 和 0.95 的主要区别在于，T=0.05 会使得模型更加自信，更加倾向于选择概率最大的类别作为输出，而 T=0.95 会使得模型更加不确定，更加倾向于输出多个类别的概率值较大。（你需要那个文件就改哪个文件，不需要全改）
个人聊天机器人-ChatGLM2-6B
gxcklgg的博客
09-25 1204
3、继续报错OSError: /gemini/data-2 does not appear to have a file named config.json. Checkout ‘https://huggingface.co//gemini/data-2/None’ for available files.，解决办法其实文件是在"/gemini/data-2/chatglm2-6b"文件夹中，再次修改路径。', ‘.’, ‘–’ and ‘…#5，这样就可以愉快的使用个人聊天机器人啦。
Windows下部署清华大学ChatGLM-6B语言模型（部署教程）
ChatGLM-6B是一款支持中英双语并具备图像理解能力的模型，基于General Language Model架构，拥有62亿参数，能够在消费级显卡（INT4量化级别下仅需6GB显存）上本地部署，适合资源有限的环境。 首先，模型的部署需要...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值