第一期书生·浦语大模型实战营学习汇总

本文围绕上海人工智能实验室的浦语大模型展开,介绍了其学习笔记,涉及深度学习、模型微调、部署工具LMDeploy以及联邦学习的应用。作者还分享了个人的学习体会,强调技术、理财和养生的重要性。
摘要由CSDN通过智能技术生成

一、笔记

1、https://blog.csdn.net/weixin_53443275/article/details/135468011icon-default.png?t=N7T8https://blog.csdn.net/weixin_53443275/article/details/135468011

2、https://blog.csdn.net/weixin_53443275/article/details/135563168icon-default.png?t=N7T8https://blog.csdn.net/weixin_53443275/article/details/135563168

3、上海人工智能实验室的书生·浦语大模型学习笔记--day3-CSDN博客文章浏览阅读836次,点赞22次,收藏20次。大型语言模型(LLM)是一种基于深度学习技术的自然语言处理工具,它通过大量文本数据的训练,能够生成自然语言文本或理解语言文本的含义,具有重要的应用价值。它提供了丰富的组件和工具,简化了应用程序的开发过程,并提供了与外部资源的集成能力,使得应用程序更加灵活和功能强大。https://blog.csdn.net/weixin_53443275/article/details/135686219

4、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day4-CSDN博客文章浏览阅读668次,点赞12次,收藏20次。Finetune中文译为“微调”,深度学习中需要在深层网络中不断进行训练更新模型的参数(权重)拟合能实现预期结果的模型。“微调”的原理就是利用已知的网络结构和已知的网络参数,修改output层为我们自己的层,微调最后一层前的若干层的参数,这样就有效利用了。https://blog.csdn.net/weixin_53443275/article/details/135857581

5、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day5-CSDN博客文章浏览阅读749次,点赞16次,收藏23次。模型部署是指将训练好的模型在特定环境中运行的过程,以便将其应用到实际生产中。这个过程需要解决模型框架兼容性和运行速度的问题。LMDeploy是一个用于部署大模型的工具箱,由上海人工智能实验室开发。它使用C++/CUDA进行推理,并对外提供Python/gRPC/HTTP接口和WebUI界面。LMDeploy支持tensor parallel分布式推理,并支持fp16/weightint4/kv cache int8量化。LMDeploy的核心功能包括量化、TurboMind和推理服务。https://blog.csdn.net/weixin_53443275/article/details/135873703

6、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day6-CSDN博客文章浏览阅读689次,点赞26次,收藏9次。书生·浦语是上海和商汤科技联合研发的一款大模型,这次有机会参与试用,特记录每日学习情况。此前听过一个说法,身为社畜,要在江湖立足,须有两重角色,商人和公务。一是要脸皮厚,经得起折腾,二是要能忍,藏住内心,低调行事。我觉得要再加一重角色,程序员,心态要放空,终身学习,才赶得上这个时代的变化。学习要学三方面,技术是一,更重要的是理财、养生。技术是谋生手段,是财富的源泉。https://blog.csdn.net/weixin_53443275/article/details/135878525 

二、作业

2、https://blog.csdn.net/weixin_53443275/article/details/135563411icon-default.png?t=N7T8https://blog.csdn.net/weixin_53443275/article/details/135563411

3、第三节课作业-CSDN博客文章浏览阅读347次,点赞9次,收藏8次。选择一个垂直领域,收集该领域的专业资料构建专业知识库,并搭建专业问答助手,并在。复现课程知识库助手搭建过程。1、构建联邦学习的向量数据库。2、联邦学习专业问答助手。https://blog.csdn.net/weixin_53443275/article/details/135586743

4、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day4-CSDN博客文章浏览阅读668次,点赞12次,收藏20次。Finetune中文译为“微调”,深度学习中需要在深层网络中不断进行训练更新模型的参数(权重)拟合能实现预期结果的模型。“微调”的原理就是利用已知的网络结构和已知的网络参数,修改output层为我们自己的层,微调最后一层前的若干层的参数,这样就有效利用了。https://blog.csdn.net/weixin_53443275/article/details/135857581

5、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day5-CSDN博客文章浏览阅读749次,点赞16次,收藏23次。模型部署是指将训练好的模型在特定环境中运行的过程,以便将其应用到实际生产中。这个过程需要解决模型框架兼容性和运行速度的问题。LMDeploy是一个用于部署大模型的工具箱,由上海人工智能实验室开发。它使用C++/CUDA进行推理,并对外提供Python/gRPC/HTTP接口和WebUI界面。LMDeploy支持tensor parallel分布式推理,并支持fp16/weightint4/kv cache int8量化。LMDeploy的核心功能包括量化、TurboMind和推理服务。https://blog.csdn.net/weixin_53443275/article/details/135873703 

6、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day6-CSDN博客文章浏览阅读689次,点赞26次,收藏9次。书生·浦语是上海和商汤科技联合研发的一款大模型,这次有机会参与试用,特记录每日学习情况。此前听过一个说法,身为社畜,要在江湖立足,须有两重角色,商人和公务。一是要脸皮厚,经得起折腾,二是要能忍,藏住内心,低调行事。我觉得要再加一重角色,程序员,心态要放空,终身学习,才赶得上这个时代的变化。学习要学三方面,技术是一,更重要的是理财、养生。技术是谋生手段,是财富的源泉。https://blog.csdn.net/weixin_53443275/article/details/135878525 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值