- 博客(7)
- 收藏
- 关注
RSS订阅原创 OpenCompass 大模型评测实战
确保按照上述步骤正确安装 OpenCompass 并准备好数据集后，可以通过以下命令评测 InternLM2-Chat-1.8B 模型在 C-Eval 数据集上的性能。由于 OpenCompass 默认并行启动评估过程，我们可以在第一次运行时以 --debug 模式启动评估，并检查是否存在问题。有部分第三方功能,如代码能力基准测试 HumanEval 以及 Llama 格式的模型评测,可能需要额外步骤才能正常运行，如需评测，详细步骤请参考安装指南。将会在 OpenCompass 下看到data文件夹。
2024-04-24 01:15:00
436
原创 Lagent & AgentLego 智能体应用搭建
通过 AgentLego 算法库，不仅可以直接使用多种工具，也可以利用这些工具，在相关智能体框架（如 Lagent，Transformers Agent 等）的帮助下，快速构建可以增强大语言模型能力的智能体。这一步所需时间可能会较长，请耐心等待。由于 Lagent 的 Web Demo 需要用到 LMDeploy 所启动的 api_server，因此我们首先按照下图指示在 vscode terminal 中执行如下代码使用 LMDeploy 启动一个 api_server。
2024-04-23 21:06:47
934
原创 LMDeploy 量化部署 LLM 实践
打开命令行终端，创建一个名为lmdeploy的环境：下载成功接下来，激活刚刚创建的虚拟环境。安装0.3.0版本的lmdeploy。OK。
2024-04-23 19:42:43
851
原创 XTuner 微调 LLM：1.8B、多模态、Agent
XTuner 一个大语言模型&多模态模型微调工具箱。由MMRazor和MMDeploy联合开发。安装虚拟环境然后git clone成功后效果如下我们将-n 200# 查询xtuner内置配置文件# 拷贝配置文件到当前目录修改# Model# Data- evaluation_inputs = ['请描述一下这张图片','Please describe this picture']']
2024-04-23 15:32:38
589
原创 轻松玩转书生·浦语大模型趣味 Demo
水墨画是由水和墨调配成不同深浅的墨色所画出的画，是绘画的一种形式，更多时候，水墨画被视为中国传统绘画，也就是国画的代表。墨水是国画的起源，以笔墨运用的技法基础画成墨水画。线条中锋笔，侧锋笔，顺锋和逆锋，点染，擦，破墨，拨墨的技法。“水墨画是由水和墨调配成不同深浅的墨色所画出的画，是绘画的一种形式，更多时候，水墨画被视为中国传统绘画，也就是国画的代表。基本的水墨画，仅有水与墨，黑与白色，但进阶的水墨画，也有工笔花鸟画，色彩缤纷。基本的水墨画，仅有水与墨，黑与白色，但进阶的水墨画，也有工笔花鸟画，色彩缤纷。
2024-04-04 04:15:00
2099
1
原创 书生·浦语大模型全链路开源体系（更新中）
回归语言建模的本质--给定context去预测token，具体在数据清洗、高质量语料和新数据补全提升模型性能三个方面有所体现，同时整体的下游任务性能在不断增强。InternLM2（7B、20B）:高质量和具有很强可塑性的模型基座，是模型进行深度领域适配的高质量起点。模型能力亮点：长上下文理解、对话与创作、数学能力等，例如通过模型进行行程规划和情感对话。专用模型（围棋、语音识别、人脸识别）-->通用大模型（一个模型对应多种任务、多种模态）一、大模型成为发展通用人工智能的重要途径。(后续会更paper解读)
2024-04-03 20:00:16
316
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人