ininvoren的博客

原创 OpenCompass 评测

原创 第三节：茴香豆

介绍RAG 检索增强技术，解决幻觉，过时知识，可追溯知识点 索引，检索，生成 优化方式： 提高质量：嵌入优化，索引优化 查询过程：查询优化，上下文管理 迭代检索，递归检索，自适应检索，大模型微调 微调与RAG对比 茴香豆介绍 在线版OpenXLab浦源 - 应用中心 目前使用心得： 一、不足： 1.不知道是不是部署浦源的原因，可以不用登录使用但是不急得密码也无法找回需要重新制作 2.就一个p

原创 Lagent & AgentLego 智能体应用搭建

原创 LMDeploy模型量化

将以下内容复制粘贴进入。

原创 XTuner 微调 LLM:1.8B

使用 XTuner 中的 copy-cfg 功能将 config 文件复制到指定的位置。# -p选项意味着如果上级目录不存在也会一并创建，且如果目标文件夹已存在则不会报错。# 创建一个名为 final_model 的文件夹存储整合后的模型文件。# 创建一个保存转换后 Huggingface 格式的文件夹。# 在ft这个文件夹里再创建一个存放数据的data文件夹。# 前半部分是创建一个文件夹，后半部分是进入该文件夹。# 创建一个存放 config 文件的文件夹。# 创建目标文件夹，确保它存在。

原创 浦语大模型趣味demo

描述：设置了海盗口语的风格，但是要问了一些弱智吧里面的问题，后续就没有角色预制了不知道是短期记忆问题还是泛化能力问题。

原创 大模型全链路开源体系笔记

开源历程 从23年开始开源多个大模型，重点介绍最新大模型internlm2 7B开源（internlm2）版本配置升级，亮点，20b能到gpt3.5，支持工具调用 介绍工具调用，逻辑理解，数据分析能力，没介绍其他模型对比优势 从模型到应用 数据，预训练，微调，部署，评测，应用 微调（增量续训，这个可以试下，有监督微调）8g显存可以微调7b模型 评测体系（中立性能榜单，评测工具链，评测基准社区） 部署的功能，

原创 51大模型作业

3.使用 LMDeploy 成功部署 Llama 3 模型。1.完成 Llama 3 Web Demo 部署。2.使用 XTuner 完成小助手认知微调。