- 博客(11)
- 收藏
- 关注
RSS订阅原创 L1 最后一关
本节课程聚焦于大语言模型的评测，在后续的课程中我们将介绍多模态大模型的评测方法。OpenCompass 提供了和两种方式。其中 API 模式评测针对那些以 API 服务形式部署的模型，而本地直接评测则面向那些可以获取到模型权重文件的情况。我们首先在训练营提供的开发机上创建用于评测 conda 环境:cd /root更多使用说明，请参考 OpenCompass。
2024-12-11 22:54:56
1489
原创 L1 Xtuner
parser.add_argument("--new_text", default="你的名字", help="Text to replace with")对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。
2024-12-11 20:47:30
752
原创 L0 linux+InternStudio
SSH全称Secure Shell，中文翻译为安全外壳，它是一种网络安全协议，通过加密和认证机制实现安全的访问和文件传输等业务。SSH 协议通过对网络数据进行加密和验证，在不安全的网络环境中提供了安全的网络服务。SSH 是（C/S架构）由服务器和客户端组成，为建立安全的 SSH 通道，双方需要先建立 TCP 连接，然后协商使用的版本号和各类算法，并生成相同的会话密钥用于后续的对称加密。在完成用户认证后，双方即可建立会话进行数据交互。那在后面的实践中我们会配置SSH密钥。
2024-12-10 21:37:20
451
原创 L1 Llamaindex RAG
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答，借助 LlamaIndex 后 浦语 API 具备回答 A 的能力，截图保存。：将 Streamlit+LlamaIndex+浦语API的 Space 部署到 Hugging Face。
2024-12-10 21:36:12
443
原创 L1 Prompt
语气要求：简洁明确 ``` **输出：** ``` 关于公司2024年春节放假安排的公告 各部门及全体员工： 根据国家相关规定，并结合公司实际情况，现将2024年春节放假安排通知如下： 1. 放假时间：2024年2月8日（周四）至2月14日（周三），共计7天。**公司名称** 2024年12月10日 ``` --- ### **提示示例 2** **输入：** ``` 任务类型：函件 标题：关于合作意向的函 主要内容：公司希望与贵司在绿色能源领域开展深入合作，共同开发光伏发电项目，计划初期投资500万元。
2024-12-10 21:35:41
1391
原创 L1 InternIntro
最近大火的中国 3A 大作《黑神话·悟空》里有什么让你难忘的精彩故事情节？2. 2024 年诺贝尔物理学奖为何会颁发给人工智能领域的科学家 Geoffrey E. Hinton，这一举动对这两个领域的从业人员会有什么影响？选择逻代码编程、文章创作、灵感创意、角色扮演、语言翻译、逻辑推理以上任意一个场景或者你自己感兴趣的话题与浦语进行对话 (轮次不限)。3. 最近大火的中国 3A 大作《黑神话·悟空》里有什么让你难忘的精彩故事情节？使用 MindSearch 在以下三个问题中选择一个你感兴趣的进行提问。
2024-12-10 21:35:10
269
原创 L1 toolchain
100万token上下文：大海捞针实验（给很长的信息，看能否定位任何位置的任何信息。官网：https://internlm.intern-ai.org.cn/核心技术思路：迭代，数据质量驱动（基于规则、模型、反馈）InternLM开源一周年。性能天梯：与GPT靠近。
2024-12-10 21:34:39
249
原创 L0 huggingface
Hugging Face Spaces 是一个允许我们轻松地托管、分享和发现基于机器学习模型的应用的平台。考虑到个人GitHub CodeSpace硬盘空间有限（32GB可用），而7B的模型相对较大，这里我们先演示如何下载模型文件夹的特定文件。这里以“A beautiful flower”开头，模型对其进行“续写”，InternLM的模型拥有强大的数学方面的能力。注意到在CodeSpace平台上是没有GPU资源的，因此我们Python代码中只使用CPU进行推理，我们需要修改跟CUDA有关的API，在。
2024-12-10 21:34:08
1495
原创 L0 python
为了节省大家的存储空间，本次实战营可以直接使用share目录下的conda环境，但share目录只有读权限，所以要安装额外的包时我们不能直接使用pip将包安装到对应环境中，需要安装到我们自己的目录下。myenv这个文件夹里包含了整个虚拟环境，所以理论上将他直接拷贝到任意一台安装了conda的机器上都能直接激活使用，这也是在内网机器上做环境配置的一种效率较高的解决方案。注意在使用conda的时候，我们需要先激活我们要用的虚拟环境，再在激活的虚拟环境中，使用pip来安装包。一次性安装所有依赖。
2024-12-10 21:32:45
1325
原创 书生大模型第四期
SSH全称Secure Shell，中文翻译为安全外壳，它是一种网络安全协议，通过加密和认证机制实现安全的访问和文件传输等业务。SSH 协议通过对网络数据进行加密和验证，在不安全的网络环境中提供了安全的网络服务。SSH 是（C/S架构）由服务器和客户端组成，为建立安全的 SSH 通道，双方需要先建立 TCP 连接，然后协商使用的版本号和各类算法，并生成相同的会话密钥用于后续的对称加密。在完成用户认证后，双方即可建立会话进行数据交互。那在后面的实践中我们会配置SSH密钥。
2024-12-10 16:32:38
576
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人