EinsteinH的博客

原创 Day1 十步完成运行部署大模型

*注意**： 此终端为运行大模型终端，在想要结束大模型前不能够关闭这个终端。新建终端进行测试，正常运行就会有这样的输出，说明模型已经在ROCm云环境运行。由于命令行的限制，可能会有进度条未显示下载完成，仔细观察是否有“要更新云中的vLLM的版本才能运行Gemma4模型，安装相关依赖。魔搭是国内开源模型社区，可以高速拉取大模型。