- 博客(7)
- 收藏
- 关注
RSS订阅原创 书生浦语（七）OpenCompass 模型测试
上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。在 OpenCompass 中评估一个模型通常包括以下几个阶段：配置 -> 推理 -> 评估 -> 可视化。
2024-04-30 10:26:28
171
1
原创 书生浦语（六）Lagent & AgentLego智能体应用搭建
Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。
2024-04-29 16:59:14
225
1
原创 书生浦语（第五课）——LMDeploy量化部署LLM&VLM
1.LMDeploy环境部署1.1 面临的挑战1.2 解决方法1.3 LMDelopy简介2 实战2.1使用Transformer库运行模型2.2 使用LMDeploy与模型对话
2024-04-29 14:58:09
520
1
原创 书生浦语（四）XTuner 微调LLM
但是两者的不同是在询问 “你是我的小助手” 的这个问题上，300轮的时候是回答正确的，回答了 “是” ，但是在600轮的时候回答的还是 “我是剑锋大佬的小助手，内在是上海AI实验室书生·浦语的1.8B大模型哦” 这一段话。这里的丹炉其实我们可以想象为 XTuner ，只要丹炉的质量过得去，炼丹的时候不会炸，一般都是没问题的。而对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 adapter ，因此是不需要进行模型整合的。
2024-04-25 16:43:09
1345
1
原创 书生·浦语课程笔记（三）茴香豆专题
RAG技术的优势在于能加入用户自定义的知识库（外部知识库）来增强大语言模型，相当于通过类插件的方法，使得LLMs模型在通用性的基础上，增强某些特定领域的专业知识，相当于给大模型开了小灶，恶补一下知识库。
2024-04-12 10:15:12
776
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人