- 博客(9)
- 收藏
- 关注
RSS订阅原创 XTuner 微调个人小助手认知
在 “创建开发机” 界面，选择开发机类型：个人开发机，输入开发机名称：XTuner微调，选择开发机镜像：Cuda12.2-conda。进入开发机之后，请确保自己已经克隆了Tutorial仓库的资料到本地。在安装 XTuner 之前，我们需要先创建一个虚拟环境。虚拟环境创建完成后，就可以安装 XTuner 了。首先，从 Github 上下载源码。最后，我们可以验证一下安装结果。软件安装好后，我们就可以准备要微调的模型了。
2024-08-29 17:35:07
648
原创 OpenCompass 评测 InternLM-1.8B 实践
在 OpenCompass 中评估一个模型通常包括以下几个阶段：配置 -> 推理 -> 评估 -> 可视化。
2024-08-29 15:20:41
250
原创 InternLM + LlamaIndex RAG 实践
给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考技术报告。第二种方式，并不改变模型的权重，只是给模型引入格外的信息。类比人类编程的过程，第一种方式相当于你记住了某个函数的用法，第二种方式相当于你阅读函数文档然后短暂的记住了某个函数的用法。对比两种注入知识方式，第二种更容易实现。RAG正是这种方式。
2024-08-29 13:52:39
483
原创 浦语提示词工程
可以根据需要自行设置优化提示词，在设置提示词前，无法比较两数大小，设置提示词后即可比较两数大小。部署成功后，可以利用如下脚本调用部署的InternLM2-chat-1_8b模型并测试是否部署成功。由于服务需要持续运行，需要将进程维持在后台，所以这里使用。软件创建新的命令窗口。InternLM部署完成后，可利用提供的。
2024-08-26 16:11:38
102
原创 8G 显存玩转书生大模型 Demo
使用 Streamlit 部署 InternLM2-Chat-1.8B 模型，执行如下代码来启动一个 Streamlit 服务。在完成端口映射后，我们便可以通过浏览器访问 http://localhost:6006 来启动我们的 Demo。接下来，我们在本地的 PowerShell 中输入以下命令，将端口映射到本地。首先，我们创建一个目录，用于存放我们的代码。首先来为 Demo 创建一个可用的环境。然后，我们将下面的代码复制到。并进入conda环境。
2024-08-26 14:27:40
139
原创 Git 课程任务
Fork 目标项目获取仓库链接查看分支，自定义一个新的分支提交更改到分支，查看提交· 在 github 页面将修改的内容 PR 到 Tutorial。
2024-08-23 12:46:26
97
原创 Linux+InternStudio 关卡
将复制的命令粘贴到powershell中，然后回车，这里我们需要输入密码，我们将登录命令下面的密码复制下来，然后粘贴到终端中，这里密码粘贴密码是不显示的，这是正常的。远程连接的好处就是，如果你使用的是远程办公，你可以通过SSH远程连接开发机，这样就可以在本地进行开发。首先我们使用输入密码的方式进行SSH远程连接，当完成开发机的创建以后，我们需要打开自己电脑的powerShell终端，使用。组成，为建立安全的 SSH 通道，双方需要先建立 TCP 连接，然后协商使用的版本号和各类算法，并生成相同的。
2024-08-23 10:21:15
439
原创 书生大模型实战营第三期——入门岛——python基础知识
2. Vscode连接InternStudio debug笔记。1.Python实现wordcount。
2024-08-22 17:48:15
165
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人