关于compshare算力共享平台
关于UCloud(优刻得)旗下的compshare算力共享平台
UCloud(优刻得)是中国知名的中立云计算服务商,科创板上市,中国云计算第一股。
Compshare GPU算力平台隶属于UCloud,专注于提供高性价4090算力资源,配备独立IP,支持按时、按天、按月灵活计费,支持github、huggingface访问加速。
https://www.compshare.cn/?ytag=GPU_flyiot_Lcsdn_csdn_display
【compshare】(3):使用UCloud(优刻得)的compshare算力平台,新增加SD-webui和大模型镜像,可以快速启动,非常方便,部署特别简单
启动SD-webui 镜像

然后登陆进入,使用ubuntu 帐号:
ssh ubuntu@xxx.xxx.xxx.xxx
温馨提示:
当前镜像已预装nvidia-driver,cuda,conda,stable-diffusion-webui。
stable-diffusion-webui启动方式:
cd /home/ubuntu/stable-diffusion-webui
python launch.py --xformers --listen
启动好之后,通过浏览器访问: http://ip:7860即可,注意ip需要替换为云主机的外网ip,
如果无法访问请在控制台检查安全规则是否放行上述端口。
http://xxx.xxx.xxx.xxx:7860

还可以启动Llama3-Chinese大模型

发现启动端口不能访问,可以使用 8888 端口:
温馨提示:
当前镜像已预装nvidia-driver,cuda,conda,Llama3-8B-Instruct-Chinese。
Llama3-8B-Instruct-Chinese启动方式:
cd /home/ubuntu/llama3-Chinese-chat
conda activate llama3-chinese
streamlit run deploy/web_streamlit_for_instruct.py model/llama-3-8b-Instruct-chinese --theme.base="light" --server.port 8888
启动好之后,通过浏览器访问: http://ip:8888
效果还是不错的:

可以直接通过webui 进行模型的访问,测试,也带打字效果。
总结
新的镜像不错,简化了部署使用,更加的方便了。可以很快的搭建SD和大模型的平台了。

1059

被折叠的 条评论
为什么被折叠?



