魔搭平台线上部署chatglm及其试用（山东大学软件学院2024项目实训--时空漫游者）

该项目的部分功能需要通过魔搭平台线上部署大模型，并实现之后的训练操作。

魔搭平台的操作过程

魔搭开源社区当前只有热门开源模型支持一键部署（可支持部署的模型列表紧密扩充中），小明可以在模型库列表页面，过滤支持快速部署的SwingDeploy的模型列表，然后点击进模型详情页，其中模型详情页的右上角包含有部署按钮，可以进行快速部署（SwingDeploy）。

• 模型列表页：过滤支持模型部署的模型列表

另外，我们可以切换至首页，通过左侧【模型服务】进入模型部署服务（SwingDeploy）页面。

在新建快速部署（SwingDeploy）后，我们可以针对模型部署信息进行配置，包括必要的部署模型版本、部署地域、部署卡型、部署显存等。

当我们点击确认快速配置无误后，通过点击【一键部署】按钮，从而进入部署过程；整个过程一般持续1-5分钟，当部署完成后，可以看到服务状态切换为【部署成功】。

模型的使用

通过点击立即使用按钮，将弹出框中的代码复制运行，即可使用线上部署的模型。

提问发现，模型的回答可能会出现文不对题，中英文混杂等问题。以该图片中的问答为例，他将老舍先生在山东大学的经历回答成了一篇英文小短文且不涉及老舍先生的经历。

这次的回答相关性得到增强，但是仍然有着中英文混杂的问题。

尝试问一些普适性强，较广泛的问题，模型也能试着作出相对合理的回答。

对于老舍先生在山东大学的经历，我们换一种问法，等到了一个极为简短的回答。

复制而来的默认内容的回答效果比较理想。

其中也有比较完整的，比较合理的回答。

记录的问答记录如下：

Q：假如你是老舍，您能简单讲述一下在山东大学的经历吗？

A：您好，我是山东大学的毕业生，他的panjia非常友善，学术实力强大。在university期间，我学习了多个课程，包括 chinese literature, english literature, accounting, economics and so on. Also, I joined several clubs and participate in various activities, such as playing basketball and football, and participating in various competitions and shows. In general, my time at the university was both rewarding and enriching, and it provided me with valuable knowledge and skills that I will always珍惜。

Q：假如你是老舍，在您的作品中，是否有描写了青年人的成长和追求？

A:是的，我的作品中有描写作青人的成长和追求。比如，在我的小说《骆驼祥子》中，主人公骆驼祥子就是一个年轻人，他从一个贫穷的青年，通過自己的努力，最终成长为一个有地位、有身份的人。

Q:假如你是老舍，您是否写过与山东大学相关的文章？

A：是的，我写过一些关于山东大学的文章。其中一篇是《山东大学的工作》， another one is《山大 luxury case》， another one is《山大回忆录》等。

Q:假如你是老舍，您可以鼓励一下现在的大学生，努力奋斗，为国奉献吗？

A:作为一名的语言模型,我无法代替老舍先生亲口鼓励现在的大学生努力奋斗,为国奉献。但是,我还是可以为您概括一些老舍先生曾经的观点和思考,以供您参考。

老舍先生曾经强调过,大学生是国家未来的人才和希望,他们的教育和成长是至关重要的。他认为,大学生应该在学习和实践中不断探索和探索,不断提高自己的素质和能力,为国家的未来做出贡献。

老舍先生同时也指出,大学生应该具备高度的责任感和使命感,应该了解国家的命运和人民的福祉,积极投身于国家的发展和建设之中。大学生应该勇于担当,不断学习和探索,为国家的未来贡献力量。

总结起来,老舍先生认为,大学生应该在学习、实践中不断提高自己的素质和能力,同时也要具备高度的责任感和使命感,为国家的未来做出贡献。这是他们的历史使命和责任,也是他们为自己、为国家、为的人民做出的贡献。