- 博客(16)
- 收藏
- 关注
RSS订阅原创 书生浦语大模型实战营（第二期）-第六节
按照教程获取和风天气的API keyLagent 中关于工具部分的介绍文档位于。使用 Lagent 自定义工具主要分为以下几步：继承 BaseAction 类实现简单工具的 run 方法；或者实现工具包内每个子工具的功能简单工具的 run 方法可选被 tool_api 装饰；工具包内每个子工具的功能都需要被 tool_api 装饰下面我们将实现一个调用和风天气 API 的工具以完成实时天气查询的功能。创建文件import os@tool_api"""一个天气查询API。
2024-06-08 21:03:37
322
原创 书生浦语大模型实战训练营（第二期）- 第四节
在本节中，我们将自己构造数据对，基于InternLM2_Chat_1.8B这个文本单模态模型，使用LLaVA方案，训练一个给InternLM2_Chat_1.8B使用的Image Projector文件。LLaVA方案中，给LLM增加视觉能力的过程，既是训练ImageProjector文件的过程。分为Pretrain和Finetune两个阶段。
2024-06-07 16:26:04
972
原创 书生浦语实战训练营第二期-第三节作业
RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合外部知识库来生成更准确、更丰富的回答。解决LLMs在处理知识密集型任务时可能遇到的挑战，如幻觉、知识过时和缺乏透明、可追朔的推理过程等。提供更准确的回答、降低推理成本，实现外部记忆。
2024-05-29 21:06:39
461
原创 书生浦语实战营第二期-第二节作业
因为显卡的限制，进阶作业也只是体验了一个下载huggingface文件，这也是基本功吧。对有python基础的人来说，其实很简单，只是API的调用而已。回答问题还可以，做题还是有点不太给力。
2024-05-26 16:25:42
152
原创 书生·浦语 2.0（InternLM2）体系学习笔记（简介）
在Base基础上，在多个能力方向进行了强 化，在评测中成绩优异，同时保持了很好的 通用语言能力，是我们推荐的在大部分应用中 考虑选用的优秀基座。在Base基础上，经过SFT和RLHF，面 向对话交互进行了优化，具有很好的指令遵 循、共情聊天和调用工具等的能力。精准指令跟随，丰富的结构化创作，在AlpacaEval2超越GPT-3.5和Gemini Pro。高质量和具有很强可塑性的模型基座，是模型进行深度领域适配的高质量起点。模型的综合性能更强，可有效支持更加复杂的使用场景。著InternLM2-Chat-
2024-05-24 19:48:38
170
1
原创 XTuner微调Llama3个人小助手
XTuner是一个高效、灵活、全功能的轻量化大模型微调工具库。高效支持大语言模型 LLM、多模态图文模型 VLM 的预训练及轻量级微调。XTuner 支持在 8GB 显存下微调 7B 模型，同时也支持多节点跨设备微调更大尺度模型（70B+）。自动分发高性能算子（如 FlashAttention、Triton kernels 等）以加速训练吞吐。兼容DeepSpeed🚀，轻松应用各种 ZeRO 训练优化策略。灵活支持多种大语言模型，包括但不限于InternLMLlama 2ChatGLMQwen。
2024-05-12 09:44:01
758
原创 LMDeploy 高效部署 Llama3 实践
官方介绍LMDeploy是一个用于压缩、部署和服务LLM的工具包，由MMRazor和MMDeploy团队开发。具有高效推理、有效量化和轻松分发的特性。另外书生浦语举办的大模型实战营第二期开班了，免费学、免费提供算力！欢迎大佬萌新加入交流！
2024-05-12 08:47:51
995
原创 在InternStudio上部署Llama3
因为Internstudio每次重启都会删掉/root意外的文件，因此我们要在/root下创建model目录，来存放我们的模型，避免下次重启被删除。运行成功之后，控制台会打印访问地址，这个地址是一个InternStudio上的内网地址，不能直接访问，需要映射出来，参考。在InternStudio上模型已经存在了，为了节约磁盘空间，直接使用软链引用即可。使用SSH时需要先配置ssh key，更多请参考InternStudio的用法。安装 XTuner 时会自动安装其他依赖。可以看到后台的打印，速度很快！
2024-05-11 20:08:56
417
3
原创 Keepalived跨网段设置 -- KeepAlived on different subnets
notify_script的具体内容取决于你想要实现的功能，但是一般来说，它应该是一个可执行的文件，接受三个参数：$1是keepalived的实例名称，$2是keepalived的状态（MASTER，BACKUP或FAULT），$3是keepalived的类型（INSTANCE或GROUP）。check_haproxy.sh是一个脚本，用于检查haproxy服务的状态，如果haproxy服务正常运行，就返回0，否则返回1。
2023-04-07 18:07:35
3310
2
原创 Unable to start embedded container
org.springframework.context.ApplicationContextException: Unable to start embedded container; nested exception is org.springframework.context.ApplicationContextException: Unable to start EmbeddedWebApp
2018-01-07 16:38:09
711
原创 Spring Boot 不依赖parent
当SpringBoot项目作为Maven子模块存在时，pom中不能存在两个parent，这时有两种解决方案：1、在顶层项目的pom中依赖spring-boot-starter-parent；2、在pom中使用如下依赖： org.springframework.boot spring-boot-de
2018-01-07 16:31:31
1182
转载 解决office2013安装程序找不到office.zh-cn/Setup.xml office.zh-cn/*.xml
博主使用的Office2013是批量版，不知为什么总是跟office 2016冲突。因为装了一个oneNote2016结果Excel2013就不能用了，编辑卡死。无奈尝试了很多方法就差重装系统了。后来突然想起一事，便是装一个office 2007，卸掉，重新安装2013便可以解决了！原文已经找不到了，留在这里记录一下！附上Office清理工具Trobleshot:http://pan.baid
2016-10-18 09:29:01
11250
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人