书生·浦语大模型全链路开源开放体系 观后感

观看了这视频以后 对于 大模型的发展有了一定的了解 以及对于书生全链条开源开放体系有了 一定的了解 如下图
对于主流使用的工具也有了一定的了解
对于 书生的 预训练 internevo 的了解 也让我受益匪浅

对于 书生的这个微调xtuner 可以支持现有的生态

知道了 全量参数微调 在个人电脑是 完全没有可能的所以我打算 试试lora 和qlora
xtuner 主要是进行显存回收
对于大模型评测也有了一点了解 opencompass 是一个挺好的评测工具

部署方面 也让我了解了更多
我还了解到了 大预言模型的局限性

因为这些局限所以需要构建智能体来和外部工具交互来提高输出的可靠性

我还了解了智能体的相关知识
在这里插入图片描述
mindsearch 的效果真的挺好的