- 博客(14)
- 收藏
- 关注
RSS订阅原创 第三期书生大模型实战营入门岛Git关卡
本地安装提交更改到分支查看提交GitHub 上创建一个 Pull Request，提供对应的 PR链接:PR链接自己的仓库，可以自行merge，作业提交的公开需要维护者审核。
2024-08-08 17:44:05
854
1
原创 第三期书生大模型实战营入门岛Python关卡
选择debug config时选择remote attach就行，随后会让我们选择debug server的地址，因为我们是在本地debug，所以全都保持默认直接回车就可以了，也就是我们的server地址为localhost:5678。很多时候我们要debug的不止是一个简单的python文件，而是很多参数，参数中不止会有简单的值还可能有错综复杂的文件关系,甚至debug一整个项目。可以替换为我们想要debug的python文件，后面可以和直接在命令行中启动python一样跟上输入的参数。
2024-07-24 22:30:14
782
原创 第三期书生大模型实战营入门岛 Linux+InternStudio 关卡
端口映射是一种网络技术，它可以将外网中的任意端口映射到内网中的相应端口，实现内网与外网之间的通信。通过端口映射，可以在外网访问内网中的服务或应用，实现跨越网络的便捷通信。那么我们使用开发机为什么要进行端口映射呢？因为在后续的课程中我们会进行模型web_demo的部署实践，那在这个过程中，很有可能遇到web ui加载不全的问题。这是因为开发机Web IDE中运行web_demo时，直接访问开发机内 http/https 服务可能会遇到代理问题，外网链接的ui资源没有被加载完全。
2024-07-15 17:15:33
994
原创 Llama 3大课堂作业
由于 HuggingFace 上的 Agent-FLAN 数据集暂时无法被 XTuner 直接加载，因此我们首先要下载到本地，然后转换成 XTuner 直接可用的格式。然后与模型对话，可以看到，此时显存占用低，代价是会降低模型推理速度。通过运行以上指令，我们成功启动了API服务器，请勿关闭该窗口，后面我们要新建客户端连接该服务。我们已经为大家准备好了可以一键启动的配置文件，主要是修改好了模型路径、对话模板以及数据路径。在训练完成后，我们将权重转换为 HuggingFace 格式，并合并到原权重中。
2024-05-09 17:08:31
1657
原创 第七节 OpenCompass ：大模型评测实战 笔记与作业
数据污染 是指本应用在下游测试任务重的数据出现在了大语言模型 (LLM) 的训练数据中，从而导致在下游任务 (例如，摘要、自然语言推理、文本分类) 上指标虚高，无法反映模型真实泛化能力的现象。由于数据污染的源头是出现在 LLM 所用的训练数据中，因此最直接的检测数据污染的方法就是将测试数据与训练数据进行碰撞，然后汇报两者之间有多少语料是重叠出现的，经典的 GPT-3 论文中的表 C.1 会报告了相关内容。
2024-04-22 11:18:53
1559
原创 第六节 Lagent & AgentLego 智能体应用搭建 笔记与作业
使用 Lagent 自定义工具主要分为以下几步：1.继承 BaseAction 类2.实现简单工具的 run 方法；或者实现工具包内每个子工具的功能3.简单工具的 run 方法可选被 tool_api 装饰；工具包内每个子工具的功能都需要被 tool_api 装饰下面我们将实现一个调用和风天气 API 的工具以完成实时天气查询的功能。
2024-04-17 11:54:16
717
原创 第三节 茴香豆：搭建你的 RAG 智能助理 笔记
设计拒答、响应两阶段 pipeline 应对群聊场景，解答问题同时不会消息泛滥。成本低至 1.5G 显存，无需训练适用各行业提供一整套前后端 web、android、算法源码，工业级开源可商用。
2024-04-09 16:04:29
244
原创 第二节 轻松玩转书生·浦语大模型趣味 Demo笔记
Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。Lagent 的特性总结如下：流式输出：提供 stream_chat 接口作流式输出，本地就能演示酷炫的流式 Demo。接口统一，设计全面升级，提升拓展性，包括：Model : 不论是 OpenAI API, Transformers 还是推理加速框架 LMDeploy 一网打尽，模型切换可以游刃有余；
2024-04-02 19:28:58
413
1
原创 第二节 轻松玩转书生·浦语大模型趣味 Demo
八戒-Chat是利用《西游记》剧本中所有关于猪八戒的台词和语句，以及Chat-GPT-3.5生成的相关问题结果，基于InternLM2-chat-1.8b进行全量微调得到的模仿猪八戒语气的聊天语言模型。有点幽默了，这到底是猪八戒还是猴哥。
2024-04-01 21:56:16
251
原创 day1_c++常用库函数之数学库
常用库函数数学库头文件为<cmath>acos函数函数原型：double acos(double x)函数说明：返回以弧度表示的反余弦值。asinatancossintancoshsinhtanhexpdouble exp(double x)返回e的x方，e[^x]loglog10fabsdouble fabs(double x)返回x的绝对值powdouble pow(double x,dou
2021-03-16 12:03:44
200
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人