【compshare】(3):使用UCloud(优刻得)的compshare算力平台,新增加SD-webui和大模型镜像,可以快速启动,非常方便,部署特别简单...

关于compshare算力共享平台

关于UCloud(优刻得)旗下的compshare算力共享平台
UCloud(优刻得)是中国知名的中立云计算服务商,科创板上市,中国云计算第一股。
Compshare GPU算力平台隶属于UCloud,专注于提供高性价4090算力资源,配备独立IP,支持按时、按天、按月灵活计费,支持github、huggingface访问加速。

https://www.compshare.cn/?ytag=GPU_flyiot_Lcsdn_csdn_display

【compshare】(3):使用UCloud(优刻得)的compshare算力平台,新增加SD-webui和大模型镜像,可以快速启动,非常方便,部署特别简单

启动SD-webui 镜像

img

然后登陆进入,使用ubuntu 帐号:

ssh ubuntu@xxx.xxx.xxx.xxx


温馨提示:
当前镜像已预装nvidia-driver,cuda,conda,stable-diffusion-webui。
stable-diffusion-webui启动方式:
cd /home/ubuntu/stable-diffusion-webui
python launch.py --xformers --listen
启动好之后,通过浏览器访问: http://ip:7860即可,注意ip需要替换为云主机的外网ip,
如果无法访问请在控制台检查安全规则是否放行上述端口。

http://xxx.xxx.xxx.xxx:7860

img

还可以启动Llama3-Chinese大模型

img

发现启动端口不能访问,可以使用 8888 端口:


温馨提示:
当前镜像已预装nvidia-driver,cuda,conda,Llama3-8B-Instruct-Chinese。
Llama3-8B-Instruct-Chinese启动方式:
cd /home/ubuntu/llama3-Chinese-chat
conda activate llama3-chinese

streamlit run deploy/web_streamlit_for_instruct.py model/llama-3-8b-Instruct-chinese --theme.base="light"  --server.port 8888


启动好之后,通过浏览器访问: http://ip:8888

效果还是不错的:

img

可以直接通过webui 进行模型的访问,测试,也带打字效果。

总结

新的镜像不错,简化了部署使用,更加的方便了。可以很快的搭建SD和大模型的平台了。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值