SmallZCan_t的博客

原创 OpenCompass 评测 InternLM-1.8B 实践

原创 XTuner 微调个人小助手认知任务

训练过程 微调结果

原创 Llamaindex RAG实践

使用RAG前 使用RAG后

原创 LangGPT结构化提示词编写实践

原创 8G 显存玩转书生大模型 Demo

基础任务 使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事，记录复现过程并截图。 进阶任务 使用 LMDeploy 完成 InternLM-XComposer2-VL-1.8B 的部署，并完成一次图文理解对话，记录复现过程并截图。 使用 LMDeploy 完成 InternVL2-2B 的部署，并完成一次图文理解对话，记录复现过程并截图。

原创 书生·浦语大模型全链路开源开放体系

2.5概览 核心技术思路 模型能力飞轮 高质量合成数据 基于规则的数据构造 基于模型的数据扩充 基于反馈的数据生成 基于规划和搜索解决复杂问题 书生·浦语开源模型谱系 数据 开源数据处理工具箱 预训练InternEvo 微调XTuner OpenCompass评测体系 部署LMDeploy 智能体Lagent

原创 Python 基础知识

【代码】Python 基础知识。

原创 Linux基础知识

【代码】Linux基础知识。

原创 InternLM实战营笔记与作业合集

笔记：书生·浦语大模型全链路开源体系-CSDN博客笔记：浦语大模型趣味Demo-CSDN博客练习：浦语大模型趣味Demo--练习-CSDN博客笔记：基于InternLM和LangChain搭建你的知识库-CSDN博客练习：基于InternLM和LangChain搭建你的知识库--练习-CSDN博客笔记：XTuner大模型单卡低成本微调实践-CSDN博客练习：XTuner大模型单卡低成本微调实践--练习-CSDN博客笔记：LMDeploy大模型量化部署实验_模型量化实验-CSDN博客练习：LMDeploy大模

原创 OpenCompass大模型评测--练习

基础作业

原创 OpenCompass大模型评测

为什么需要评测 普通用户：了解模型的特色能力和实际效果 开发者：监控能力变化，指导优化模型生产 管理机构：减少大模型带来的社会风险 产业界：找出最适合产业应用的模型，赋能真实场景 如何评测 主观评测 客观评测 prompt工程 OpenCompass OpenCompass能力框架 OpenCompass开源评测平台架构 OpenCompass评测流水线设计 大模型评测挑战 缺少高质量中文评测集 难以准确提取答案 能力维度不足 测试集混入训练集 测试标准各异

原创 LMDeploy大模型量化部署实验--练习

从前，有一个小男孩，他总是感到孤独和失落。他觉得自己没有朋友，没有人真正理解他。他觉得自己是一个被遗弃的孩子。有一天，他遇到了一只小鸟。这只小鸟非常友好，它跟小男孩聊了很多，告诉小男孩许多有趣的事情。小男孩开始感到自己不再孤独，他觉得这只小鸟是他的朋友。然而，小男孩很快发现这只小鸟受伤了。它无法飞行，无法找到食物。小男孩决定照顾这只小鸟，他每天都给它喂食，帮助它恢复健康。经过一段时间的努力，小鸟终于恢复了健康。它飞了起来，飞向了天空。小男孩感到非常高兴，他知道这只小鸟是他的朋友，他永远不会被遗弃。

原创 LMDeploy大模型量化部署实验

LMDeploy时LLM在英伟达设备上部署的全流程解决方案。包括模型轻量化、推理和服务。

原创 XTuner大模型单卡低成本微调实践--练习

未完待续。。。

原创 XTuner大模型单卡低成本微调实践

加速方式：flash attention。

原创 基于InternLM和LangChain搭建你的知识库--练习

基础作业：课程知识库助手搭建 知识库搭建 InternLM 接入 LangChain 构建检索问答链 部署 Web Demo

原创 基于InternLM和LangChain搭建你的知识库

LangChain框架是一个开源工具，通过为各种LLM提供通用接口来简化应用程序的开发流程，帮助开发者自由构建LLM应用。核心组成模块：链（将组件组合实现端到端应用，通过一个对象封装实现一系列LLM操作 eg.检索问答链基于LangChain搭建RAG应用。

原创 浦语大模型趣味Demo--练习

主题：又见敦煌主题：原神启动！

原创 浦语大模型趣味Demo

人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。

原创 书生·浦语大模型全链路开源体系

高效推理引擎、完备易用的工具链。