- 博客(13)
- 收藏
- 关注
原创 Xtuner微调大模型
Xtuner是一款用来微调大语言模型(LLM)的工具。在微调的过程中,用户可以直观地看到验证数据的训练情况。因此,Xtuner 更适合用来微调主观类的数据。
2025-04-15 21:05:01
593
原创 Ubuntu24.04装机指南
在 Ubuntu 24.04 中,APT 软件源配置方式发生了变化,默认使用 /etc/apt/sources.list.d/ubuntu.sources 文件(Debian 格式)而非传统的 /etc/apt/sources.list。如果遇到切换输入法后闪烁问题,可能与Wayland显示服务器有关,执行。搜狗输入法安装后,部分程序中无法使用,例如:chrome、文件管理器。修改用户现目前的文件夹(主要是为了清理文件管理器左边显示的栏目),删除多余的中文文件夹,保留“桌面”文件夹。
2025-04-13 17:45:07
1233
原创 Ubuntu AI大模型环境配置以及常用工具安装
vLLM 是一个 Python 库,它包含预编译的 C++ 和 CUDA (12.1) 二进制文件。LMDeploy 是一个高效且友好的 LLMs 模型部署工具箱,功能涵盖了量化、推理和服务。通过 PagedAttention 等技术优化 GPU 内存使用,显著提升推理速度。目前 Pytorch 官网提示支持 11.8、12.4、12.6【】(安装miniconda或者conda来管理虚拟环境)下载匹配cuda12.4、ubuntu适用的cudnn包。以下配置皆以 Ubuntu22.04 系统版本为例。
2025-04-08 11:08:53
914
原创 python2.7安装M2Crypto
如果出现问题:根据错误提示,你可能需要重新安装或配置OpenSSL和SWIG。例如,如果找不到openssl/opensslv.h等文件,可能是OpenSSL的路径设置不正确。安装Python 2.7和pip:首先确保你已经安装了Python 2.7,并将Python的路径添加到环境变量中。然后,下载并安装pip。注意:如果pip版本过低,不支持–egg选项,你需要先升级pip。如果没有出现错误,那么说明M2Crypto已经成功安装。
2024-05-28 11:52:37
795
ubuntu 系统下 wps 软件缺失字体集
2025-04-17
深度学习基于PyTorch==2.6.0和Transformers==4.48.0的XTuner环境配置:AI模型开发与优化依赖库列表
2025-04-15
MesloLGS NF 字体文件
2025-04-15
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人