收集整理了一份《2024年最新物联网嵌入式全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升的朋友。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人
都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
- [2、配置程序运行环境](#2_7)
+ [三、在HuggingFace下载chatGLM-6B模型](#HuggingFacechatGLM6B_15)
+ - [1,安装 Git Lfs](#1_Git_Lfs_16)
- [2,下载相关文件](#2_21)
- [3,在HuggingFace中下载相关模型](#3HuggingFace_35)
- [4,最终运行前的项目格式](#4_53)
+ [四,运行项目可能会遇到的报错以及解决方法](#_58)
+ - [1,ModuleNotFoundError: No module named 'transformers\_modules.](#1ModuleNotFoundError_No_module_named_transformers_modules_60)
- [2,OSError:Unable to Load weights from pytorch checkpoint file for](#2OSErrorUnable_to_Load_weights_from_pytorch_checkpoint_file_for_72)
- [3,AttributeError: module transformers has no attribute TFChatGLMForConditionalGeneration](#3AttributeError_module_transformers_has_no_attribute_TFChatGLMForConditionalGeneration_82)
+ [五,最终结果](#_87)
+ [六,一些番外](#_92)
一,前言
最近安装了一下叶佬的一键安装包总感觉,没有被bug虐浑身不舒服遂,去github上重新git clone了官方的下来并部署玩玩。
二,环境配置
1、下载ChatGLM项目
官方地址:https://github.com/THUDM/ChatGLM-6B
2、配置程序运行环境
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
注:在这里,torch需要用whl手动下载GPU版本,不然多半会寄
下载方法可以参考这个博客:从零开始下载torch+cu(无痛版)
三、在HuggingFace下载chatGLM-6B模型
1,安装 Git Lfs
注:安装Git Lfs之前需要安装Git窝,还没有安装的可以参考这个教程:Git的安装教程
Git Lfs地址:https://git-lfs.com/
Git Lfs的安装也没啥要注意的,NextNext一路默认就好
2,下载相关文件
下载相关文件
1,在ChatGLM-6B-main主目录创建一个文件夹THUDM
cd到ChatGLM-6B-main\THUDM目录下然后在当前目录打开cmd执行如下指令
git lfs install #安装git lfs
git clone https://huggingface.co/THUDM/chatglm-6b-int4
这时候如果一直卡在Updating files: 100% (21/21), done.不动了,这时候可以ctrl+c直接退出。剩下的模型我们下一步手动下载。
3,在HuggingFace中下载相关模型
在这里提示,跑需要查看自身硬件适合哪个版本的模型、
模型名称 | 模型大小 | 模型所需GPT与内存 |
---|---|---|
chatglm-6b | 12.4g | 最低13G显存,16G内存 |
chatglm-6b-int8 | 7.2G | 最低8G显存 |
chatglm-6b-int4 | 3.6G | 最低4.3G显存 |
模型地址:chatglm-6b
模型地址:chatglm-6b-int8
模型地址:chatglm-6b-int4
chatglm-6b-int4和其他两个量化模型,下载目标内容都一致哈,就是模型地址里面的以.bin结尾的全部模型download,并拷贝进相应的地址。int4就拷贝进ChatGLM-6B-main\THUDM\chatglm-6b-int4
chatglm-6b-int4这个文件夹是第二步时候clone的时候自动新建的
4,最终运行前的项目格式
下面我以chatGLM-6b-int4为栗子
这里面的文件是由从Huggingface 上clon下载的文件和在清华镜像中下载的模型组成
四,运行项目可能会遇到的报错以及解决方法
运行web-demo.py,下面是一些报错以及解决方法
1,ModuleNotFoundError: No module named 'transformers_modules.
如果报这个错
解决方法:
pip install transformers==4.26.1 -i https://pypi.tuna.tsinghua.edu.cn/simple
版本高了,你可以下载第一点的版本看看,我的是下载了4.26.1
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上物联网嵌入式知识点,真正体系化!
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、电子书籍、讲解视频,并且后续会持续更新
知识点,真正体系化!**
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、电子书籍、讲解视频,并且后续会持续更新