从零开始体验部署CPU大模型以及搭建Agent

在学长的带领下,首次接触了大模型的搭建,之前只是会用大模型来解答问题,现在算是知道了点大模型的搭建,当然大多数还是应用的现有的资料,但简单的操作可以完成一个大的成果,这确实很让人有成就感。现在,我或许不知道原理,但我相信未来我会清楚的知道其中的缘由。

从零入门CPU部署大模型&应用开发 - 飞书云文档 (feishu.cn)  (这个文档真的是小白教学,跟着做就行)      

先是通过魔达社区启动CPU环境,然后导入两个文档里的资源,跟着文档的步骤一步步来,我们就可以用Gradio构建大模型应用,并与其进行简单的对话

 对话结束后要记得ctrl+c停止运行,我们也可以进行简单的修改试试用streamlit来构建大模型应用

上图就是两种大模型应用,最后要记得关闭实例。以上就是我与大模型搭建的初次见面,虽然什么都不懂,但最后还是有惊无险的做出来了,感觉也就一般般吧(划掉这句话),这第一堂课有点不明觉厉,做是做出来了,但完全不知道是怎么整出来的,完全就是跟着教程一步步的来,真傻瓜式教学,不过还是挺有趣的,算是初步认识了大模型吧,也算是亲手体验到了搭建大模型了。

除了搭建CPU大模型,学长还带着我们搭建了Agent也就是智能体,他可以作为一个ai助手,我们可以对其进行针对性的培养,为其添加插件或者填充知识库,使其可以更专业的回答问题,此次我通过智谱清言进行搭建agent​我们可以通过智谱清言自带的“创建智能体”来制作我们想要的Agent

我们可以输入一句话来搭建agent,智谱清言会根据我们输入的内容来生成一个agent

以上就是搭建智能体的基础操作,到这里一个智能体的搭建就完成了,可以在右侧进行聊天或问答

除了最基础的搭建,我们也可以添加插件和知识库,使我们的智能体可以更好的回答我们想要的问题,上图我就添加了“思维导图助手”插件,智能体就可以提供我们想要的思维导图了。

如上图所示,我们就可以对智能体进行问答了。我们还可以发布我们搭建的智能体供他人使用

智学助手 - 智谱清言智能体 (chatglm.cn)

以上种种就是学长带着我进行的两堂课,课时不多但打开了新世界的大门,初步认识了大模型以及智能体,学长用亲自体验告诉我们这些东西没有多么的深奥以及偏远,虽然我们是用的现成的资源搭建的,但那也是我们亲手搭建出来的ai助手。两堂课收获了很多,期待未来可以更好更深入的学习大模型的知识。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值