- 博客(7)
- 收藏
- 关注
原创 ChatGLM推理与 P-Tuning v2 微调(严格按照官方教程)
设备配置:windows系统,RTX3060,quantization_bit=4,最低只需 6.7G 显存,能推理和微调。
2024-04-18 17:49:11 932
原创 配置运行google gemma过程
可以用google colab运行gemma的demo(见以下链接),2b跑起来没问题,7b内存会炸。but一件不那么开心的事,colab有时候能用,有时候让购买,没有摸到规律。注意:需要kaggle的API token,点下边的"your Kaggle settings page"链接,进去下载即可(中间需要遵守一些使用这个模型的约定,一步步弄就行)。之后就一个挨一个的运行pytorch_gemma.ipynb,不能跳步,按顺序运行下来是没有任何bug的。
2024-02-29 17:04:57 1646
原创 windows系统用git bash激活conda虚拟环境
1.进入到./anaconda/Scripts目录,右击鼠标,选择git bash here。2.输入以下代码,激活conda虚拟环境。
2023-08-20 14:26:34 2626 4
原创 os.getenv(‘key_name‘)与os.environ[‘key_name‘]=‘value‘
1.利用variable_name=os.getenv('key_name')可以获取环境变量'key_name'对应的值。2.如果想要修改环境变量的值,使用os.environ['key_name']='value'
2023-07-25 15:41:59 63
原创 关于新开始一个Python项目
(记得大学上某编程课的时候,老师这样说过,当时还不理解,觉得代码能跑通就行,放在哪里很重要吗?现在理解了,因为一个项目涉及的代码多了,文件也多了,所以同一个项目文件集中在一起,既方便查找与管理,环境也不会互相影响,而且运行代码时的路径问题也几乎不存在了)3.在github上下载代码压缩包到project路径下,然后解压。1.新建一个虚拟环境,我一般新建一个conda虚拟环境(不太了解pycharm直接构建虚拟环境)然后就可以开始跑代码了!(跑通之前,各种bug待解决,头秃~~~)为了方便管理,最好就是。
2023-07-25 15:20:04 54
原创 WebGLM环境配置过程记录
背景介绍:在本地配置环境时,为了偷懒,在一个已有的conda虚拟环境中进行的配置,但是由于已有的torch版本为2.0.0,而配置要求的版本为1.12.1。所以安装过程中删除了原来的torch,重新安了1.12.1的版本,但是最后有报错,不过也显示安装成功了,所以没细看报了什么错(埋下祸根,(ㄒoㄒ)~~)。一是查看torch路径:import torch print(torch.__path__) 看是不是有自己命名的文件夹也叫“torch”,导致import错误。揭晓结果:问题解决啦!
2023-07-25 14:00:38 233
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人