QIUYEzi_LR-CSDN博客

原创 OpenCompass司南测评作业

如果一切正常，您应该看到屏幕上显示 “Starting inference process”，如果报错，则重新执行以下指令。使用 OpenCompass 评测 internlm2-chat-1_8b 模型在 C-Eval。

2024-04-24 22:05:39 314

上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现：提供公平、公开、可复现的大模型评测方案全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力丰富的模型支持：已支持 20+ HuggingFace 及 API 模型分布式高效评测：一行命令实现任务分割和分布式评测，数小时即可完成千亿模型全量评测。

2024-04-24 21:52:27 528

原创 Lagent & AgentLego 智能体应用搭建第六次作业

通过 AgentLego 算法库，不仅可以直接使用多种工具，也可以利用这些工具，在相关智能体框架（如 Lagent，Transformers Agent 等）的帮助下，快速构建可以增强大语言模型能力的智能体。经过上面的介绍，我们可以发现，Lagent 是一个智能体框架，而 AgentLego 与大模型智能体并不直接相关，而是作为工具包，在相关智能体的功能支持模块发挥作用。Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。IPython 解释器。Python 解释器。

2024-04-24 19:45:55 321

原创 Lagent & AgentLego 智能体应用搭建第六次课堂笔记

可以感知环境中的动态条件。能采取动作影响环境。能运用推理能力理解信息、解决问题、产生推断、决定动作。

2024-04-24 15:14:57 347

原创 LMDeploy 量化部署 LLM-VLM 实践作业

是一个针对深度学习模型和数据集的在线托管社区。如果你有数据集或者模型想对外分享，可以托管在HuggingFace。如果您想获取他人开源的的数据集或模型，也可以在HuggingFace中找到。托管的模型通常采用HuggingFace格式存储，简写为HF格式。但是HuggingFace社区的服务器在国外，国内访问不太方便。国内可以使用阿里巴巴的MindScope社区，或者上海AI Lab搭建的OpenXLab社区，上面托管的模型也通常采用HF(.safetensors)格式。TurboMind。

2024-04-24 14:45:44 327

原创 XTuner微调工具作业

在安装过程中，我们选择了合适的Python版本和依赖库，并通过pip命令进行了安装。在XTuner的配置库中，我们找到了合适的配置文件，并根据自己的需求进行了修改。训练完成后，我们还可以通过简单的指令将训练好的模型进行转换和部署，以便在实际场景中使用。从开发机的准备到环境的安装，再到数据集的准备和微调过程的启动，每一步都至关重要。通过实践操作，我们能够更加深入地理解微调的原理和方法，并为自己的小助手增添更多的个性化和智能化功能。在这个阶段，我们明确了微调的目标，并收集了相关的数据集。

2024-04-24 14:18:10 292

原创 XTuner微调工具课堂笔记

在安装过程中，我们选择了合适的Python版本和依赖库，并通过pip命令进行了安装。从开发机的准备到环境的安装，再到数据集的准备和微调过程的启动，每一步都至关重要。通过实践操作，我们能够更加深入地理解微调的原理和方法，并为自己的小助手增添更多的个性化和智能化功能。在这个阶段，我们明确了微调的目标，并收集了相关的数据集。在XTuner的配置库中，我们找到了合适的配置文件，并根据自己的需求进行了修改。训练完成后，我们还可以通过简单的指令将训练好的模型进行转换和部署，以便在实际场景中使用。

2024-04-24 14:04:55 198

原创书生浦语第三次课堂作业与笔记

", "茴香豆是什么？", "茴香豆怎么应用到飞书群", "huixiangdou 能部署到微信吗？", "茴香豆已经应用的场景", "huixiangdou 已经应用的场景", "huixiangdou 怎么安装", "茴香豆怎么安装", "茴香豆最新版本是什么", "茴香豆支持哪些大模型", "茴香豆支持哪些通讯软件", "config.ini 文件怎么配置", "remote_llm_model 可以填哪些模型?

2024-04-14 18:17:51 830

原创书生浦语趣味Demo

石门后面是一个宽敞的房间，房间里摆满了各种各样的宝藏，有金光闪闪的金子，有闪闪发光的珠宝，还有各种各样的古董。小兔感到非常满足，它意识到，真正的宝藏不是那些看起来完美的东西，而是通过努力和冒险才能找到的东西。从此以后，小兔成为了森林中的传奇，它的故事激励着其他动物去探索未知的世界。小兔一路走过了茂密的树林，穿过了清澈的小溪，最终来到了一个僻静的洞穴。小兔开始寻找线索，它四处打听，问遍了森林中的每一个角落。小兔翻过山峦，穿过茂密的森林，终于找到了藏宝图上的线索。在一片广袤的森林中，有一只名叫小兔的小兔子。

2024-04-04 20:15:17 261

原创书生浦语趣味Demo课程笔记

选泽jupyterLab和terminal便可进入开发者界面，随机根据课程文档便可自行尝试趣味Demo。首先进入InternStudio平台进入开发机。趣味Demo教学主要分为以下步骤。再进入开发机后创建开发机。书生*浦语趣味Demo。

2024-04-04 20:12:51 115

原创 lnternLM2学习笔记

回归语言建模的本质，致力于通过提高语料质量及信息密度，实现模型基座语言建模能力获得质的提升，进而在数理、代码、对话、创作等各方面都取得长足进步，综合性能达到同量级开源模型的领先水平。InternLM 是一系列多语言基础模型和聊天模型，InternLM2 是在InternLM 的基础上进行的模型的改进，包含多个不同规格的大语言模型。·InternLM2作为一个开源的大型语言模型(LLM)，报告中详细描述了模型的结构，并强调了其在长上下文建模和开放式主观评估中的强大能力。突出的数理能力和实用的数据分析功能。

2024-03-31 22:35:59 228

QIUYEzi_LR的博客