云平台部署
文章平均质量分 82
介绍一些项目云平台部署
晨打水水水
这个作者很懒,什么都没留下…
展开
-
TinyAgent: 尝试Agent入门
本文将探索Agent入门,尝试使用TinyAgent进行分析原创 2024-04-19 16:15:29 · 790 阅读 · 0 评论 -
ChatGLM3
选择B1.large卡,直接开始(B1.medium其实也可以或者更大的也可以,毕要看你的输入,这里选择适中的卡)点击“New Launcher”后选择“Python 3”的Notebook新建文件,并命名为“chatglm3”我也试过 prompt 12个例子的,输出结果真的很令人满意!不过由于数据的私有性所以在此处不再展示!ChatGLM3 的出现真的让我看到了小模型的希望,效果如此的好,可以考虑做微调等等下一步了!另外,关于复杂 prompt 的构成可以参见我写的知乎。可以看到结果还是相当的不错的!原创 2023-11-02 13:19:03 · 210 阅读 · 0 评论 -
云平台的ChatGLM部署
进入项目后,选择“开发”,然后选择显存大于9G的配置,我选的是B1.large(B1.medium运存稍微有点不够),将最长运行时间选为“不限制”(这样你就可以手动开关项目啦~),最后点“确定”,等待开发环境运行即可!因为趋动云送的算力点很多,所以就准备在这个平台上试试ChatGLM-6B-int8。会弹出来两个网址,但可惜的是这两个网址我都没能打开,不知道github上网页版demo是如何打开的,不过总体说部署还是非常成功地!数据集选择“公开”里面的ChatGLM-6B-int8预训练结果。原创 2023-05-08 16:29:24 · 879 阅读 · 0 评论