Linux
文章平均质量分 53
壶小旭
人工智能搬砖师|大语言模型|后端|自然语言处理
展开
-
flash_attn安装
如果出现该错误cannot import name ‘is_flash_attn_available’ from ‘transformers.utils’,可以。访问该网站,找到对应torch、python、cuda版本的flash_attn进行下载,并上传到服务器。原创 2024-04-28 10:25:04 · 4601 阅读 · 1 评论 -
NVIDIA-SMI has failed带来的一系列问题
记实验室的小红帽服务器重启后,使用nvidia-smi出现以下问题:现记录解决该问题过程中遇到的坑,首先百度到的解决方案就是安装dkms组件(Dynamic Kernel Module Support),利用dkms将未编译到内核之中的Linux驱动程序进行手动编译。但是在使用命令出现了第一个问题RPM-GPG-KEY-rockyofficial 是一个RPM软件包管理系统使用的GPG密钥。RPM(Red Hat Package Manager)是一种在Linux系统中广泛使用的软件包管理工具,用于安装、原创 2023-06-26 17:05:34 · 346 阅读 · 0 评论 -
Rocky Linux 防火墙开放端口号流程
Rocky Linux 防火墙开放端口号流程原创 2023-02-06 22:18:08 · 1220 阅读 · 0 评论