第一期书生·浦语大模型实战营学习汇总

一、笔记

1、https://blog.csdn.net/weixin_53443275/article/details/135468011https://blog.csdn.net/weixin_53443275/article/details/135468011

2、https://blog.csdn.net/weixin_53443275/article/details/135563168https://blog.csdn.net/weixin_53443275/article/details/135563168

3、上海人工智能实验室的书生·浦语大模型学习笔记--day3-CSDN博客文章浏览阅读836次，点赞22次，收藏20次。大型语言模型（LLM）是一种基于深度学习技术的自然语言处理工具，它通过大量文本数据的训练，能够生成自然语言文本或理解语言文本的含义，具有重要的应用价值。它提供了丰富的组件和工具，简化了应用程序的开发过程，并提供了与外部资源的集成能力，使得应用程序更加灵活和功能强大。https://blog.csdn.net/weixin_53443275/article/details/135686219

4、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day4-CSDN博客文章浏览阅读668次，点赞12次，收藏20次。Finetune中文译为“微调”，深度学习中需要在深层网络中不断进行训练更新模型的参数（权重）拟合能实现预期结果的模型。“微调”的原理就是利用已知的网络结构和已知的网络参数，修改output层为我们自己的层，微调最后一层前的若干层的参数，这样就有效利用了。https://blog.csdn.net/weixin_53443275/article/details/135857581

5、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day5-CSDN博客文章浏览阅读749次，点赞16次，收藏23次。模型部署是指将训练好的模型在特定环境中运行的过程，以便将其应用到实际生产中。这个过程需要解决模型框架兼容性和运行速度的问题。LMDeploy是一个用于部署大模型的工具箱，由上海人工智能实验室开发。它使用C++/CUDA进行推理，并对外提供Python/gRPC/HTTP接口和WebUI界面。LMDeploy支持tensor parallel分布式推理，并支持fp16/weightint4/kv cache int8量化。LMDeploy的核心功能包括量化、TurboMind和推理服务。https://blog.csdn.net/weixin_53443275/article/details/135873703

6、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day6-CSDN博客文章浏览阅读689次，点赞26次，收藏9次。书生·浦语是上海和商汤科技联合研发的一款大模型，这次有机会参与试用，特记录每日学习情况。此前听过一个说法，身为社畜，要在江湖立足，须有两重角色，商人和公务。一是要脸皮厚，经得起折腾，二是要能忍，藏住内心，低调行事。我觉得要再加一重角色，程序员，心态要放空，终身学习，才赶得上这个时代的变化。学习要学三方面，技术是一，更重要的是理财、养生。技术是谋生手段，是财富的源泉。https://blog.csdn.net/weixin_53443275/article/details/135878525 

二、作业

2、https://blog.csdn.net/weixin_53443275/article/details/135563411https://blog.csdn.net/weixin_53443275/article/details/135563411

3、第三节课作业-CSDN博客文章浏览阅读347次，点赞9次，收藏8次。选择一个垂直领域，收集该领域的专业资料构建专业知识库，并搭建专业问答助手，并在。复现课程知识库助手搭建过程。1、构建联邦学习的向量数据库。2、联邦学习专业问答助手。https://blog.csdn.net/weixin_53443275/article/details/135586743

4、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day4-CSDN博客文章浏览阅读668次，点赞12次，收藏20次。Finetune中文译为“微调”，深度学习中需要在深层网络中不断进行训练更新模型的参数（权重）拟合能实现预期结果的模型。“微调”的原理就是利用已知的网络结构和已知的网络参数，修改output层为我们自己的层，微调最后一层前的若干层的参数，这样就有效利用了。https://blog.csdn.net/weixin_53443275/article/details/135857581

5、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day5-CSDN博客文章浏览阅读749次，点赞16次，收藏23次。模型部署是指将训练好的模型在特定环境中运行的过程，以便将其应用到实际生产中。这个过程需要解决模型框架兼容性和运行速度的问题。LMDeploy是一个用于部署大模型的工具箱，由上海人工智能实验室开发。它使用C++/CUDA进行推理，并对外提供Python/gRPC/HTTP接口和WebUI界面。LMDeploy支持tensor parallel分布式推理，并支持fp16/weightint4/kv cache int8量化。LMDeploy的核心功能包括量化、TurboMind和推理服务。https://blog.csdn.net/weixin_53443275/article/details/135873703 

6、上海人工智能实验室的书生·浦语大模型学习笔记及作业--day6-CSDN博客文章浏览阅读689次，点赞26次，收藏9次。书生·浦语是上海和商汤科技联合研发的一款大模型，这次有机会参与试用，特记录每日学习情况。此前听过一个说法，身为社畜，要在江湖立足，须有两重角色，商人和公务。一是要脸皮厚，经得起折腾，二是要能忍，藏住内心，低调行事。我觉得要再加一重角色，程序员，心态要放空，终身学习，才赶得上这个时代的变化。学习要学三方面，技术是一，更重要的是理财、养生。技术是谋生手段，是财富的源泉。https://blog.csdn.net/weixin_53443275/article/details/135878525