unbuntu下安装chatglm2-6b记(一)
由于本人最近在研究大模型 ,所以这篇文章会写出在安装中遇到的详细步骤及相关问题,不说了上干货。下载完成后并安装pytorch 安装这个的时候一定要进入虚拟环境安装 不然该安装到外部环境里了。我的显卡驱动是4090ti 12g 理论上应该跑的起来,后面我会在后续的微调文章里详细解答。下面事优化后的代码 如果显存不足的可以参考我下面的代码 如果显存足就按原始代码运行就可以了。如果安装中遇到下图这个问题 基本就是版本的太低的问题了重装个新的版本。然后执行安装 安装的时候确保是在虚拟环境 这个目录下。
原创
2024-09-03 14:12:40 ·
512 阅读 ·
0 评论