- 博客(11)
- 收藏
- 关注
RSS订阅原创 8.22 书生大模型实战营-基础岛6 - OpenCompass 评测 InternLM-1.8B 实践作业
在 OpenCompass 中评估一个模型通常包括以下几个阶段：配置 -> 推理 -> 评估 -> 可视化。配置：这是整个工作流的起点。您需要配置整个评估过程，选择要评估的模型和数据集。此外，还可以选择评估策略、计算后端等，并定义显示结果的方式。推理与评估：在这个阶段，OpenCompass 将会开始对模型和数据集进行并行推理和评估。推理阶段主要是让模型从数据集产生输出，而评估阶段则是衡量这些输出与标准答案的匹配程度。这两个过程会被拆分为多个同时运行的“任务”以提高效率。
2024-08-23 08:36:20
681
原创 8.22 书生大模型实战营-基础岛5 - XTuner 微调个人小助手认知作业
LoRA（Low-Rank Adaptation）是一种使用低精度权重对大型预训练语言模型进行微调的技术，它的核心思想是在不改变原有模型权重的情况下，通过添加少量新参数来进行微调。这种方法降低了模型的存储需求，也降低了计算成本，实现了对大模型的快速适应，同时保持了模型性能。然而，由于使用了低精度权重，LoRA的一个潜在的缺点是在微调过程中可能会丢失一些原始模型的高阶特征信息，因此可能会降低模型的准确性。
2024-08-22 17:12:26
672
原创 8.17 书生大模型实战营-基础岛4 -InternLM+LlamaIndex RAG 实践作业
1. 模型幻觉对于一些大模型不知道的知识，大模型可能会胡乱生成，并且试图让其看起来合理！2. 过时知识大模型本身在训练时，是一次性训练，因此采用的是过去的知识。当我们想要一些最新的知识时，大模型回答不了3. 缺乏透明和可追溯的推理过程大模型在生成回答时，可能答案是正确的，但是并不能展现大模型本身的一个推理过程，RAG的技术可以帮助我们追溯推理过程（对于这个点有点疑惑如图所示，由于xtuner是一款比较新的框架，训练数据库中并没有收录到它的相关信息。左图中问答均未给出准确的答案。右图未对。
2024-08-18 16:54:19
1142
原创 8.16 书生大模型实战营-基础岛3 -浦语提示词工程实践作业
提示工程是一种通过设计和调整输入(Prompts)来改善模型性能或控制其输出结果的技术。在模型回复的过程中，首先获取用户输入的文本，然后处理文本特征并根据输入文本特征预测之后的文本，原理为。提示工程是模型性能优化的基石，有以下六大基本原则指令要清晰提供参考内容复杂的任务拆分成子任务给 LLM“思考”时间(给出过程)使用外部工具系统性测试变化。
2024-08-17 12:41:56
768
原创 8.14 书生大模型实战营-基础岛1 - 全链路开源体系作业
该体系涵盖了从数据、模型预训练、模型微调、模型部署、模型评测、模型应用等多个环节，以促进模型性能的提升和应用场景的多样化。对于一些复杂问题，该大模型能够模拟人的解决思路，将问题逐步拆解成一个个子问题，并引入了检索的功能，利用搜索引擎筛选资料，最终整合成问题答复！这个智能体的demo展示特别牛！右边能够实时展示模型的思考过程，并且引入了搜索引擎，目前对这个非常感兴趣！3.基于人类反馈的数据生成 强化学习思路，RLHF路子。1.基于规则的构造 代码 公式，函数，数学题解。2.基于模型的数据扩充 代码加注释。
2024-08-14 11:34:04
330
原创 8.11 书生大模型实战营3 - git基础知识
暂存区（Staging Area）： 暂存区是 Git 中独有的一个概念，位于 .git 目录中的一个索引文件，记录了下一次提交时将要存入仓库区的文件列表信息。这里的仓库可以理解为一个目录，对于目录中的每一个文件，git都可以对这些文件进行管理。这些文件的添加、删除、修改等操作，都可以被git跟踪到，以便随时查看历史版本和回溯到之前的版本。分支是 Git 的一大特性，支持轻量级的分支创建和切换。支持多人同时对同一项目工作，提供了合并、分支和版本控制的功能，以确保多人协作的效率和代码的整合性。
2024-08-12 22:48:54
578
原创 8.8 书生大模型实战营2 - python基础知识作业
请实现一个wordcount函数，统计英文字符串中每个单词出现的次数。返回一个字典，key为单词，value为对应单词出现的次数。
2024-08-09 17:44:28
1021
原创 8.6 书生大模型实战营2-Numpy基础
NumPy数组（ndarray）是NumPy库的核心数据结构，它是一系列同类型数据的集合，以 0 下标为开始进行集合中元素的索引。ndarray本质上是一个存放同类型元素的多维数组，其中的每个元素在内存中都有相同存储大小的区域。创建numpy数组最常见的方法就是将一个列表使用np.array()函数转成ndarray。
2024-08-06 17:34:12
963
原创 8.5 书生大模型实战营1-Linux 前置基础知识
SSH全称Secure Shell，中文翻译为安全外壳，它是一种网络安全协议，通过加密和认证机制实现安全的访问和文件传输等业务。SSH 协议通过对网络数据进行加密和验证，在不安全的网络环境中提供了安全的网络服务。SSH 是（C/S架构）由服务器和客户端组成，为建立安全的 SSH 通道，双方需要先建立 TCP 连接，然后协商使用的版本号和各类算法，并生成相同的会话密钥用于后续的对称加密。在完成用户认证后，双方即可建立会话进行数据交互。后续通过SSH进行远程连接开发机后，即可在本地进行开发。
2024-08-05 16:21:45
1010
原创 8.5 书生大模型实战营1-Linux 前置基础知识作业
主要是一些关于创建文件、移动文件、复制文件、vim编辑文件、删除文件等等对应的Linux命令，基本掌握。完成SSH连接与端口映射并运行hello_world.py。3. 创建conda环境（需要指定python版本）2. 将Linux基础命令在开发机上完成一遍。添加图片注释，不超过 140 字（可选）运行成功，成功打开gradio。4. 创建一个sh文件，并运行。这个比较简单，easy！
2024-08-05 11:34:23
247
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人