weixin_43808729-CSDN博客

原创基础岛第六关-书生大模型-OpenCompass 评测 InternLM-1.8B 实践

上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现：提供公平、公开、可复现的大模型评测方案全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力丰富的模型支持：已支持 20+ HuggingFace 及 API 模型分布式高效评测：一行命令实现任务分割和分布式评测，数小时即可完成千亿模型全量评测。

2024-08-03 16:00:33 1317

原创基础岛第五关-书生大模型-XTuner 微调个人小助手认知

对于在 InternStudio 上运行的小伙伴们，可以不用通过 HuggingFace、OpenXLab 或者 Modelscope 进行模型的下载，在开发机中已经为我们提供了模型的本地文件，直接使用就可以了。为了让模型能够认清自己的身份弟位，在询问自己是谁的时候按照我们预期的结果进行回复，我们就需要通过在微调数据集中大量加入这样的数据。在 PART 1 的部分，由于我们不再需要在 HuggingFace 上自动下载模型，因此我们先要更换模型的路径以及数据集的路径为我们本地的路径。

2024-08-02 23:38:02 637

原创基础岛第四关-书生大模型-InternLM + LlamaIndex RAG 实践

正式介绍检索增强生成（Retrieval Augmented Generation，RAG）技术以前，大家不妨想想为什么会出现这样一个技术。给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考技术报告。第二种方式，并不改变模型的权重，只是给模型引入格外的信息。

2024-08-02 17:02:21 1501

原创入门岛第一关-书生大模型-书生大模型全链路开源体系

大模型已成为通用人工智能的重要途径，能够解决多种任务和多种模态。书生葡语大模型具有超长上下文能力，综合性能得到全面提升，能够实现结构化创作和可靠的数据分析。同时，模型还强化了内生计算能力和代码解释器，在多个能力维度上都取得了不错的评测结果。大模型本质是进行建模，目的是让模型得到很好的数据识别能力。但是综合能力有待提升。

2024-08-01 10:49:35 157

原创基础岛第三关—书生大模型—浦语提示词工程实践

description: 你是一个数学专家，擅长解决各种数学问题，特别是比较不同精度的代数数值，帮助用户进行精确的数值比较和相关计算。3. 在可能的情况下，提供不同的比较方法以供选择，并说明每种方法的适用条件。1. 分析用户提交的代数数值比较问题，确定其具体类型、精度要求和难度。4. 必要时，提供不同的比较方法，并解释每种方法的优缺点和适用场景。2. 使用适当的代数方法和公式进行数值比较，考虑数值的精度。1. 提供详细且准确的数值比较过程，考虑数值的精度问题。3. 提供详细的数值比较过程和最终结果。

2024-08-01 10:35:23 587

原创基础岛第二关-书生大模型-8G 显存玩转书生大模型 Demo

1.首先来为 Demo 创建一个可用的环境。# 创建环境# 激活环境# 安装 torch# 安装其他依赖创建一个目录，用于存放我们的代码。并创建一个。然后，我们将下面的代码复制到中。通过来启动我们的 Demo。

2024-08-01 01:06:49 1545

原创入门岛3-书生大模型-Git 基础知识

【本课程学习基础】：深度学习，了解tensorflow架构，有一定python基础。在 GitHub 上创建一个 Pull Request。【本期活动目标】：希望有项目经历，可以提升自己。【专业/职业】：基础数学研究生。2.实践项目：构建个人项目。【兴趣爱好】：吉他，游戏。1.破冰活动：自我介绍。【坐标】：成都，哈尔滨。【大家可以叫我】：帅。【组队情况】：未组队。

2024-07-31 15:00:39 149

原创入门岛-书生大模型闯关第二关-Python 基础知识

同时也可以通过create a lauch.json file来得到配置的json文件来得到出现了debug选项。2.然后接下来是wordcount函数在开发机上进行debug。首先通过VScode来远程登录开发机，然后按照必要的插件。

2024-07-31 12:00:19 708

原创入门岛-书生大模型实战营第三期-第一关学习

并直接打开网页后可以显示，成功实现完成SSH连接与端口映射并运行。然后接下来进行了SSH密钥的配置以及vscode的端口映射。接下来尝试进行了一些Linux的语言的基础的学习与调试。接下来通过在powershell中运行。接下来就是在conda环境下的一个配置。首先按照教程进行了开发机的激活。

2024-07-25 16:52:26 208

weixin_43808729的博客