![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
与服务器的情感纠纷
文章平均质量分 78
项目部署到服务
OPTree412
这个作者很懒,什么都没留下…
展开
-
CentOS系统的小小基础
如果你在执行什么操作后,显示这样的内容等待很长时间还是不行,那就杀死进程。首先检查系统是否有支持 CUDA 编程的 GPU,使用。如果只显示defaults那就添加吧。2、按照里面的命令换成自己想要的源。要确保你的脚本有适当的执行权限。命令查看当前GPU的型号。原创 2024-04-08 16:09:57 · 326 阅读 · 0 评论 -
【大模型运行漫长的开始】 关于多GPU使用 device_map
这是通过自定义采样器实现的,它可以在训练期间自动将部分批次发送到不同的设备,从而允许每个设备只需要储存数据的一部分,而不是一次将数据复制四份存入内存。在模型的前向传播和反向传播过程中,每个部分都会被正确地分配到指定的设备上进行计算。在深度学习中,模型通常由多个层和参数组成,这些层和参数可以在不同的设备上进行计算和存储。它是一个用于指定模型中各个部分所在设备的映射表,它可以简单控制模型层部署在哪些硬件上。如果你有特殊的需求,需要使用指定的显卡那就需要设置这个需要device map 字典。原创 2024-04-08 16:05:13 · 3652 阅读 · 0 评论 -
【部署LLaMa到自己的Linux服务器】
要想使用Llama2,首先需要向meta公司申请使用许可,否则你将无法下载到Llama2的模型权重。填入对应信息(主要是邮箱)后,勾选页面最底部的 “I accept the terms and conditions”,点击 “Accept and Continue”,跳转到下图界面即可。在LLaMa文件夹中打开终端,运行download.sh文件。第一个输入邮件中给你的超长链接,第二个输入你需要的模型。开头的一大串链接即为下面下载模型时需要验证的内容。然后对应的邮箱得到验证的链接,这个。原创 2024-01-16 16:25:40 · 3731 阅读 · 1 评论 -
【pycharm使用ssh连接服务器】
重新点击当前的python解释器,这时候会触发重建索引即index。打开pycharm – File – Setting。1、最简单方法, pip安装之后,原创 2024-03-11 18:31:05 · 2189 阅读 · 0 评论 -
Ubuntu安装后的事情【新手向】
删除与LibreOffice相关的配置文件(自动移除不需要的包)方法1:用了这命令后就可以看了,但是是用于ubuntu 18.04的,我是20.04。1、备份自己的镜像源防止出错,路径/etc/apt/ 文件名sources.list.bak。在界面按i键,然后开始输入自己所想的东西。想要退出保存的时候按Esc,然后输入。之后按照终端上问题对应的挨着安装即可解决,3、选一个源换上有清华源、阿里源、中科源。写在文件中后记得保存,保存后要更新源。方法2:速度比第一个快多了,也可用。ubuntu自带的源。原创 2023-08-21 11:49:00 · 147 阅读 · 0 评论