暮秋474-CSDN博客

原创 ubuntu部署阿里通义千问模型

本文详细介绍了在Ubuntu 22.04系统下配置AI服务器环境及运行大模型的完整流程。主要内容包括：1）基础环境配置，如安装编译工具、禁用开源Nouveau驱动；2）高速网络配置，安装RDMA组件并进行8卡通信测试；3）解决nccl-tests编译常见问题；4）GPU压力测试；5）安装conda环境和vllm推理引擎；6）从魔搭社区下载通义千问32B模型。文章提供了完整的命令行操作指南，涵盖从系统配置到模型运行的各个环节，适用于配置基于A100 GPU的高性能AI计算服务器。

2025-05-28 17:33:42 362

原创 centos安装英伟达驱动

我们可以把安装日志下载下来然后用vscode打开搜索here然后看到如图发现我们的gcc版本过低需要9.3.1-2版本才可以所以我们需要升级我们的gcc。），根据自己的显卡信息选择适合的驱动型号和版本，保存为.run文件。至此我们的驱动安装完成可以使用nvidia-smi命令查看。这里是本人在安装驱动时踩得一个小坑花费了两天时间特此分享。将我们刚刚下载好的英伟达驱动推送至我们的服务器。我们在安装英伟达驱动的时候会报错如图。登录NVIDIA官方网站（

2025-05-20 13:29:50 401

原创 nginx

TCP（Transmission Control Protocol）是一种面向连接的、可靠的传输层协议，用于在计算机网络中进行可靠的数据传输。它是 OSI 参考模型中传输层的一部分，主要通过提供端到端的数据传输服务来支持应用程序之间的通信。TCP 协议的主要特点包括：面向连接：在数据传输之前，发送方和接收方需要先建立一个连接，通过三次握手的方式进行确认。连接的建立使得数据传输能够有序、可靠地进行。可靠性：TCP 提供可靠的数据传输，通过序列号、确认应答、重传机制等来确保数据的完整性和正确性。

2023-12-11 14:27:17 510 1

原创 MySQL索引、事务与存储引擎

在数据库中，索引使数据库程序无需对整个表进行扫描，就可以在其中找到所有数据，数据库的索引是某个表中一列或者若干列值的集合，以及物理表示这些值的数据也的逻辑指针清单索引的作用1、设置了合适的索引之后，数据库利用各种快速的定位技术，能够加快查询速率，特别是当表很大时，或者查询涉及到多个表时，使用索引可以使查询加快成千倍2、可以降低数据库的IO成本（减少磁盘压力），并且索引可还可以降低数据库的排序成本3、通过创建唯一索引保证数据表数据的唯一性，可以加快表与表之间的连接。

2023-07-28 16:41:30 164 1