ubuntu安装 GPUStack来部署大模型

  GPUStack 是一个用于运行 AI 模型的开源 GPU 集群管理器。

        官网:gpustack/README_CN.md at main · gpustack/gpustack · GitHub

         python3.8以上,3.10 11 12都可,python版本太低可安装conda来装。


安装步骤

# 1. 确保 Python 3 和 pip 已安装(必备依赖)
apt-get update && apt-get install -y python3 python3-pip

# 2. 使用 pip 安装 Pipx(需 root 权限或当前用户有权限)
pip3 install --user pipx -i https://pypi.tuna.tsinghua.edu.cn/simple

# 3. 添加 Pipx 到系统路径(立即生效)
export PATH="$HOME/.local/bin:$PATH"

pipx 等依赖自动安装
sudo pip3 install pipx  # 全局安装(推荐)

安装慢或者失败的话,换源安装
pip3 install --user pipx -i https://pypi.tuna.tsinghua.edu.cn/simple

永久配置清华镜像源(推荐,避免后续问题)
# Linux/macOS
mkdir -p ~/.pip
nano ~/.pip/pip.conf
[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple
trusted-host = pypi.tuna.tsinghua.edu.cn

# Windows(管理员命令提示符)
notepad %APPDATA%\pip\pip.ini

# 安装 Pipx(自动使用清华镜像源)
pip3 install --user pipx
pipx --version
1.7.1
which pipx  # 应输出路径,如 /root/.local/bin/pipx

开始安装
curl -sfL https://get.gpustack.ai | INSTALL_INDEX_URL=https://pypi.tuna.tsinghua.edu.cn/s
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值