lishijie258的博客

原创 书生浦语作业和笔记汇总

作业：https://github.com/InternLM/tutorial/discussions/286 Dhaizei的回复。第1课：https://mp.csdn.net/mp_blog/creation/editor/135373333。第3课：http://t.csdnimg.cn/BDyJ3。第4课：http://t.csdnimg.cn/dzsWZ。第5课：http://t.csdnimg.cn/Tlvcm。第6课：http://t.csdnimg.cn/TqI0f。

原创 OpenCompass 大模型评测 作业

原创 第六课 OpenCompass 大模型评测

第6节课笔记(16班) ：https://github.com/InternLM/tutorial/discussions/451。第6节课作业(16班)：https://github.com/InternLM/tutorial/discussions/450。

原创 使用 LMDeploy 量化部署你的 InternLM 大模型，体验极致的推理速度和显存优化（作业）

2、网页Gradio。

原创 (5)LMDeploy大模型量化部署实践

kv cache attention中，整个过程都是需要用到历史的kv，需要进行缓存。AWQ算法，在推理的时候，是有一部分参数是很重要不进行量化，其他的参数进行量化。

原创 XTuner大模型单卡低成本微调实战

指令跟随增量预训练微调LoRa比较。

原创 复现课程知识库助手搭建过程

当点击时，调用上面定义的 qa_chain_self_answer 函数，并传入用户的消息和聊天历史记录，然后更新文本框和聊天机器人组件。system_prompt = """You are an AI assistant whose name is InternLM (书生·浦语).template = """使用以下上下文来回答最后的问题。msg = gr.Textbox(label="Prompt/问题")print("完成本地模型的加载")gr.Markdown("""提醒：

原创 基于 InternLM 和 LangChain 搭建你的知识库

RAG核心思想，是给大模型外挂一个知识库，对于用户的提问，会首先从知识库中匹配到提问对应回答的相关文档，然后将文档和提问一起交给大模型来生成回答，从而提高大模型的知识储备。Finetuning的核心思想，是在一个新的较小的训练集上进行轻量级的训练微调，从而提升模型在这个新数据集上的能力。

原创 书生·浦语第二次课程

然后新建 python 文件，填入以下代码，运行即可。使用 Hugging Face 官方提供的。InternLM：开源轻量级训练框架。Lagent轻量级agent框架。大语言模型 -> Agent。InternLM大模型介绍。浦语灵笔：视觉语言大模型。下载模型中的部分文件。在做之前需要考虑换源。

原创 轻松分钟玩转书生·浦语大模型趣味demo

由生成结果来看，貌似图文都不是很准确，备选图片也不是很准确。可能训练的数据并没有过多涉及吧？换了下内容 从原来的 斗破苍穹的美杜莎 --->斗破苍穹的美杜莎女王。从上述结果来看，貌似可能效果一般般吧，速度也不是很快，中规中矩，图文并茂。中文和英文差距不是很大，ocr的能力一般，可能还没有llava的能力强吧。值得夸赞的是这个图文格式，很棒，还有备选项目。

原创 书生·蒲语大模型课程第一课

一般分为：客服、个人助手、行业应用。开源模型到这种应用之间，还是存在一定的差距的。在这个应用中还是需要很多的工具和框架。比如开发一个这样的应用需要的一般步骤：1、首先去对模型进行评估选型。2、判断业务场景是否复杂，是否能够简单地通过prompt engineering的方式完成。3、复杂场景：算力是否足够4、是否需要和外界环境进行交互。构建智能体进行调用工具、分解任务等。5、对该模型进行评测。6、模型部署。

原创 刷leetcode 75道题

难度简单请实现一个函数，把字符串s中的每个空格替换成"%20"。写的过程中，忘记怎么使用json了，主要是 "%20"，是用什么来拼接列表，

原创 huggingface下载并加载本地数据集

如to_csv、to_pandas、to_dict、to_json等。下载至当前页面的opus100文件夹下。下载后的文件如图所示。

原创 Helsinki-NLP/opus-mt-en-zh和facebook/nllb-200-distilled-600M区别

简单的说，Helsinki-NLP/opus-mt-en-zh是一个机器翻译模型，可以进行英语和中文之间的翻译，而Facebook/nllb-200-distilled-600M是一个自然语言处理模型，适用于多种NLP任务，如分类、命名实体识别和情感分析等。Helsinki-NLP/opus-mt-en-zh和Facebook/nllb-200-distilled-600M是两种截然不同的模型，它们的结构也完全不同。这种情况，所以建议还是使用Helsinki-NLP/opus-mt-zh。

原创 图为T600刷机，踩坑

不要用sdkmanager的方法刷机，因为T600不支持，会报错，已经尝试过了，无法刷机，被劝退了。usb的话需要type-c usb3.0的数据线，华为的快充线是可以的，插口内紫色。在创建前，保证系统有50GB以上的可用内存，因为下载的数据解压后30+GB。可以采用虚拟机的形式刷机，我采用的是VMware创建的，当然物理机更好了。百度网盘下载好的文件保存在没有中文路径的位置，否则也会在后续步骤中报错！后来根据他官方文档和官方的技术沟通，才正常刷机成功。需要断电 等几秒 再上电。

原创 关于huggingface中seq2seq的pytorch转pytorchscript踩雷

seq2seq的bin模型转pt踩坑

原创 第三章：编程基础通关2 - 枚举与单位换算 枚举2

第三章：编程基础通关2 - 枚举与单位换算 枚举2

原创 第三章 枚举1

蓝桥杯

原创 第三章 枚举与单位换算

练习题

原创 c++题目练习（2）

c++题目练习

原创 c++题目练习（1）

蓝桥杯练习题

原创 天气情况爬虫

​针对重庆沙坪坝区2021年02月份历史天气数据查询 - 重庆沙坪坝气温的2021年01-12月份进行数据爬虫​

原创 码蹄集-竞赛真题第三期

码蹄集-竞赛真题第三期

原创 抑制过拟合的方式

抑制过拟合

原创 码蹄集-竞赛真题第二期

码蹄集，第一届码蹄杯真题讲解02

原创 码蹄集-竞赛真题第二期

码蹄集，第一届码蹄杯真题讲解02

原创 用matlab通过感知器算法程序实现2分类

%编写感知器算法程序，求下列模式分类的解向量：（三维，8个样本，二分类的题） %8个样本分别是 x1=[0;0;0],x2=[1;0;0],x3=[1;0;1],x4=[1;1;0] x5=[0;0;1],x6=[0;1;1],x7=[0;1;0],x8=[1;1;1] %放入一个2维数组里面，方便计算 x=[[0;0;0],[1;0;0],[1;0;1],[1;1;0],[0;0;1],[0;1;1],[0;1;0],[1;1;1]] %初始w w1=[-...

原创 冲激函数的性质

电路对于单位冲激函数的激励的零状态响应称为单位冲激响应。单位冲激函数也是一种奇异函数，可定义为单位冲激函数又称为δ函数。它在t≠0处为0，但在t=0处为奇异的。单位冲激函数δ(t)可以看作是单位脉冲函数的极限情况。图1-a为一个单位矩形脉冲函数p(t)的波形。它的高为，宽为，笑死保持矩形面积不变的情况下，它的宽度越来越窄时，它的高度越来越大。当脉冲宽度时，脉冲高度，在此急线情况下，可以得到一个宽度趋于零，幅度区域无穷大的面积仍为1的脉冲，这就是单位冲激函数δ(t)，可记为单位冲激函.

原创 关于X^(T)Ax,，求关于X的导数。

在机器学习中，关于证明的时候，经常会用到这个式子，但是我不太理解，随深入求解了下，获得了点知识，方便大家学习。