Windows 系统 tabby 智能代码服务搭建

总体流程

  1. 软件下载
  2. 安装
  3. python运行

一、软件安装

1、git安装

	  https://git-scm.com/downloads
	  官网链接下载对应的即可后续操作在git 上进行	  

2、tabby

  在本地创建一个文件夹,然后在这个文件夹路径窗口输入cmd
  弹出命令提示符,输入 :
git clone --recurse-submodules https://github.com/TabbyML/tabby

3、docker安装

	  https://www.docker.com/products/docker-desktop/

直接点击下面
在这里插入图片描述
下载到本地是这样的一个安装包,双击安装会默认c盘后续暂时不需要操作。
在这里插入图片描述
**注**:后续 的操作过程中docker操作过程中需要保持开启的状态,不然会出现报错: 错误:docker: Error response from daemon: failed to create task for container: failed to create shim task: OCI runtime create failed: runc crea te failed: unable to start container process: error during container init: error running hook #0: error running hook: exit status 1, stdo ut: , stderr: Auto-detected mode as 'legacy' nvidia-container-cli: initialization error: WSL environment detected but no adapters were found: unknown.

二、安装

1、检查本地的虚拟化设置

tabby最后安装的过程需要翻墙!

2、tabby

git clone --recurse-submodules https://github.com/TabbyML/tabby

执行完成后是这样的一个文件

3、部署

在文件夹下右键
选择 open git bash here (如果没有检查git 的安装)
输入

winpty docker run -it -e https_proxy="http://XXX.XXX.X.XXX" --gpus all -p 8080:8080 -v $HOME/.tabby:/data tabbyml/tabby serve --model TabbyML/StarCoder-1B --device cuda

注:"http://XXX.XXX.X.XXX" 是本地的IP4的地址 在本地电脑上网络,选择属性后可以看到。操作都在tabby的文件夹路径上操作。
执行的样子:
在这里插入图片描述
完成的样子
在这里插入图片描述
在docker上可以查看具体的情况
在这里插入图片描述
在这里插入图片描述
注:如果跑成功,不要对C盘进行分区操作!!!

  • 5
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值