- 博客(11)
- 收藏
- 关注
RSS订阅原创 书生·浦语全链条开源体系（笔记&作业汇总）
第3节课笔记:https://blog.csdn.net/m0_65765923/article/details/136167208?
2024-02-21 21:11:47
309
原创 书生·浦语全链条开源体系（第六节课学习心得内容）
同时，由于大语言模型输出自由度较高，在评测阶段，我们需要对其输入和输出作一定的规范和设计，尽可能减少噪声输出在评测阶段的影响，才能对模型的能力有更加完整和客观的评价。客观评测能便捷地评估模型在具有确定答案（如选择，填空，封闭式问答等）的任务上的能力，主观评测能评估用户对模型回复的真实满意度，OpenCompass采用基于模型辅助的主观评测和基于人类反馈的主观评测两种方式。配置：这是整个工作流的起点。模型层：大模型评测所涉及的主要模型种类，OpenCompass以基座模型和对话模型作为重点评测对象。
2024-02-21 17:27:26
1172
原创 书生·浦语全链条开源体系（第五节课学习心得内容）
实践部分：将官方准备好的基础环境复制到conda 环境激活环境手动安装lmdeploy# 解决 ModuleNotFoundError: No module named 'packaging' 问题# 使用 flash_attn 的预编译包解决安装过慢问题2.1 模型转换使用 TurboMind 推理模型需要先将模型转化为 TurboMind 的格式，目前支持在线转换和离线转换两种形式。在线转换可以直接加载 Huggingface 模型，离线转换需需要先保存模型再加载。
2024-02-21 17:04:11
855
原创 书生·浦语全链条开源体系（第四节课学习心得内容）
大语言模型是在海量的文本内容上以无监督或半监督的方式进行训练的。这些海量的文本内容，赋予了大语言模型各行各业的知识。但是如果想将这种大语言模型实际应用到具体的生产或科研中，往往会发现模型的回答不尽如人意。这种时候我们就需要对模型进行微调，使其在具体的使用场景或是具体的领域中输出更好的回答。常见的两种微调策略分别是增量预训练微调以及指令跟随微调。所谓的增量预训练，往往就是给模型投喂一些新的知识，这些新知识就是你目标领域的文本内容。比如说如果现在想微调一个可以诊断癌症的模型。
2024-02-21 16:24:28
1177
原创 书生·浦语全链条开源体系（第三节作业）
教程地址：https://github.com/InternLM/tutorial/blob/main/langchain/readme.md
2024-02-19 15:50:45
310
1
原创 书生·浦语全链条开源体系（第三节课学习心得内容）
1.安装# langchain安装# 如果需要调控、测试以及评估构建在LLM框架上的链，那么你需要设置以下环境变量。# 设置环境变量以使用LangSmith导入集成包。
2024-02-19 15:47:43
321
1
原创 书生·浦语全链条开源体系（第二节课学习心得内容）
在人工智能领域中，通过利用大量的数据训练得到的，拥有数十亿至数千亿级别参数的模型。这些模型不仅拥有强大的数据处理能力，而且在多样化的任务中都能展现出强大的性能，从而证明了它们卓越的泛化性。此外，我们还探讨了基于书生·浦语大语言模型开发的视觉·语言大模型，以及lagent框架，后者使得大模型能够部署为智能体，进一步扩展了其应用范围。#介绍了InternLM预训练模型，这是一个在多个领域内展现出优异性能的大型模型，代表了当前AI技术的前沿。课程的实际操作部分（Demo）围绕智能体和图文创作进行。
2024-02-19 10:48:40
326
1
原创 书生·浦语全链条开源体系（第一节课学习心得内容）
深入了解书生·浦语这样的大模型开源系统提供了一个系统性的学习体验，不仅强调了大模型的技术层面，还有它们的实际应用、部署挑战，以及持续进化和基准测试的必要性。
2024-02-10 21:08:39
287
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人