han____shuai的专栏

原创 五一卷Llama： open compass 评测

opencompass 已经支持llama评测。

原创 五一卷Llama3 agent能力体验 微调

可以看到，微调后我们的结果非常好。

原创 五一卷Llama LMDeploy 高效部署 Llama3 实践

参照教程一步步执行：下面为执行结果：设置缓存使用W4A16量化启动API服务器。

原创 五一 Llama 3 超级课堂 | 第三节 Llama 3 图片理解能力微调（XTuner+LLaVA）

按照这个教程一步步操作即可：模型分析图片微调前：微调后：

原创 五一卷Llama3 第二节课 微调

按照教程一步步执行：微调前结果如下：微调后结果如下：

原创 五一卷Llama3第一节作业

按照教程一步步操作：结果如下：

原创 OpenCampass评测实战 作业

按照如下教程文档操作即可：https://aicarrier.feishu.cn/wiki/NxUOwnLuvi0clykyzj7ccSHPndb

原创 OpenCompass是司南大模型评测实战 笔记

原创 Lagent& AgentLego 智能体应用搭建 作业

按照如下教程一步步操 作即可：https://aicarrier.feishu.cn/wiki/HdTywh4vdi9A9Rkdx70cj3zMnDf

原创 Lagent& AgentLego 智能体应用搭建 笔记

原创 LMDeploy量化部署实践 作业

按照此文档一步一步操作即可：

原创 LMDeploy量化部署实践

原创 XTuner课程作业

教程地址：Tutorial/xtuner/README.md at main · InternLM/Tutorial · GitHub按照教程一步一步操作即可：前言：一个大语言模型微调工具箱。由 MMRazor 和 MMDeploy 联合开发。※ 因此，你找到了一种叫 LoRA 的方法：只对玩具中的某些零件进行改动，而不是对整个玩具进行全面改动。※ 而 QLoRA 是 LoRA 的一种改进：如果你手里只有一把生锈的螺丝刀，也能改造你的玩具。Ubuntu + Anaconda + CUDA/CUDNN + 8

原创 XTuner微调LLM：1.8B、多模态和Agent

XTuner微调大语言模型。

原创 书生浦语第三节茴香豆：搭建你的RAG智能助理笔记

RAG（Retrieval Augmented Generation）是一项通过检索与用户输入相关的信息片段，并结合外部知识库来生成更准确、更丰富的回答的技术。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。下面介绍一个开源的rag产品：茴香豆。rag与微调，各自适用场景不同。大模型常用优化方法的比较。rag常见的优化方法。

原创 书生浦语训练营第三节笔记和作业-茴香豆 搭建你的Rag智能助理

书生 浦语 茴香豆项目是一个基于大型语言模型（LLM）的群聊知识助手，由上海人工智能实验室的书生浦语团队开发。这个项目利用了RAG（Retrieval-Augmented Generation）技术，通过检索与用户输入相关的信息，并结合外部知识库来生成更准确、更丰富的回答。茴香豆旨在解决大型语言模型在处理知识密集型任务时可能遇到的挑战，如幻觉、知识过时和缺乏透明、可追溯的推理过程等问题。：针对群聊场景设计，能够在解答问题的同时避免消息泛滥。：运行成本低至1.5G显存，无需额外训练即可适用于各行业。

原创 书生浦语学习第二课 轻松玩转书生浦语趣味Demo

LagentDemo浦语·灵笔2。第一步，打开界面，点击 创建开发机 配置开发机系统。terminal配置完成后，进入到新创建的conda。

原创 书生 浦语大模型全链路开源体系

书生 浦语 2.0体系，面向不同的使用需求，每个规格包含三个模型版本，（7B、20B）InternLM2-Base、InternLM2、InternLM2-Chat。大模型是回归语言建模的本质。采用了新一代的清洗过滤技术，例如，多维度数据价值评估，高质量语料驱动的数据富集，有针对性的数据补齐。书生大模型可以借助代码解释器来解答数学题和作数据分析的工作。全链路开放体系，包含预训练和有监督微调，导入专业知识。书生大模型开源了收集的数据集。书生 浦语大模型的开源历程。性能比肩GPT3.5。书生也开放了评测体系。

转载 什么是深度学习的卷积？

来源：Medium编译：Bot近年来，随着一些强大、通用的深度学习框架相继出现，把卷积层添加进深度学习模型也成了可能。这个过程很简单，只需一行代码就能实现。但是，你真的理解“卷积”是什么吗？当初学者第一次接触这个词时，看到堆叠在一起的卷积、核、通道等术语，他们往往会感到困惑。作为一个概念，“卷积”这个词本身就是复杂、多层次的。在这篇文章中，我们将分解卷积操作的机制，逐步将其与标准神...

转载 一天宕机三次”，为什么高并发这么难？

我最早学习的动力就是害怕失业，因为最初我决定放弃人人眼中的铁饭碗——银行的工作，随后到互联网浪潮中求职，恰遇 2000 年的互联网经济泡沫，很多公司相继倒闭，这也让我产生了很大的落差，当时只有一个想法，“如果最初花费力气做下的决定，再失业，狼狈的跑回家，很多人都准备看你失败的笑话”。所以，那时也有背水一战的感觉，不能失败，必须要去学。最后，如果没有资源了，只能走最极端的手段，即拒绝用户访问，比如在阿里的双 11 就有这样的预案，如果量太大，就先停西部，再停中部，保中心城市和东部，不行就保北上广深等大城市。

转载 python init 和 class

刚好在写Python的总结写到这块，强行答一波，本人也是Python小白：以下内容为节选：class Person: def __init__(self, name, age): self.name = name self.age = ageclass关键字后面跟类的名称就定义了一个类，类的名称可以任意，采用驼峰命名法，也即每个单词的首字母大写，如Book、Person、WildAnimal等这里的__init__方法是一个特殊的方法（ini...

转载 matplotlib画图系列之设置坐标轴（精度、范围，标签，中文字符显示）

在使用matplotlib模块时画坐标图时，往往需要对坐标轴设置很多参数，这些参数包括横纵坐标轴范围、坐标轴刻度大小、坐标轴名称等在matplotlib中包含了很多函数，用来对这些参数进行设置。plt.xlim、plt.ylim 设置横纵坐标轴范围plt.xlabel、plt.ylabel 设置坐标轴名称plt.xticks、plt.yticks设置坐标轴刻度以上plt表示matplotlib.pyplot例子#导入包import matplotlib.pyplot as p...

转载 克罗内克积kron（） 知识点

https://blog.csdn.net/yyywww666/article/details/49155417转自：http://blog.csdn.net/anqier1009/article/details/5214978矩阵的Kronecker乘法及Matlab运用kron()计算Kronecker乘法对n×m阶矩阵A和p×q阶矩阵B，A和B的Kronecher乘...

转载 人人都能懂的量子力学

源自：https://www.sohu.com/a/236628909_418353你是否曾被量子物理里面那些稀奇古怪的思想搞得神经错乱？首先，不要惊慌。神经错乱的不只你一个。正如具有传奇色彩的美国物理学家理查德﹒费曼所说：“我可以大胆地说，没有人懂量子理论。”然而，要描述这个世界，量子理论又是确实不可少的。在这篇文章中，我们将把量子理论的思想一一分解，让谁都能懂什么是量...

转载 Ubuntu 18.04简单部署ShareLaTeX

参考ArchLinux 部署ShareLaTex并且配置中文支持 Quick Start Guide-本地部署 ShareLatex-Get Docker CE for Ubuntu依赖安装Docker-ce and Docker-compose参见Docker-ce与Docker-compose。无需使用apt安装，运行sharelatex自带的.yml文件即可自动配置。...

原创 FileZilla在windows 防火墙的设置

转自：https://jingyan.baidu.com/album/c14654138d519c0bfcfc4cc4.html搭建了一个ftp,总是访问不过去，发现是防火墙问题。现把防火墙设置文档链接贴在这里，以备不时之需。...

原创 三个matlab练习程序 -Moravec算子- 各向异性扩散- TV模型图像修复

时间太久忘记是我自己整理的还是参照了一下别人的，我先设为原创，如有侵权请告知。matlab练习程序（Moravec算子）这个算子算是图像历史上第一个特征点提取算法了，1977年提出的，很简单，拿来练手很合适。算法原理如下：1.选取一个合理的邻域遍历图像，这里是5*5邻域的。在邻域中依次计算，垂直，水平，对角与反对角四个相邻像素灰度的差的平方和，作为该邻域特征值。大致就是下面这个...

原创 要开发一款游戏---找独立开发者还是游戏外包公司

可能要开发一款游戏用于教学，不熟悉这一领域，打算找外包，以下是我调查后的总结，欢迎专业人士指正。独立的游戏开发者优点是要价比游戏公司便宜，缺点是开发周期可能稍长，毕竟是一个人在做。如果是太复杂的游戏，做出来的产品质量不一定能保证，为了保证开发速度，其选用的游戏引擎等技术可能会倾向于自己熟悉的易于开发的技术而非最好最强大的游戏引擎技术，可能会不利于二次开发，用户体验也可能会受影响。因为一个人比较...

转载 量子机器学习

 30秒了解量子计算机进展http://mp.weixin.qq.com/s/D-HubVkOWzzHEQYIAg7NBg  “量子”是什么http://mp.weixin.qq.com/s/XfSNXqRIho3qtuPp7gvxog 入门量子机器学习领域，也许可以从解读Phase Estimation算法开始http://mp.weixin.qq.com/s/s...

转载 轻量级CNN网络之MobileNetv2

转自： https://zhuanlan.zhihu.com/p/52426865 轻量级CNN网络之MobileNetv2我是小将为人民日益增长的美好生活需要而读书10 人赞了该文章码字不易，欢迎给个赞！欢迎交流与转载，文章会同步发布在公众号：机器学习算法工程师(Jeemy110)MobileNet网络是Google提出主要应用在移动端的轻量级CNN网络...

转载 深度学习环境搭建-CUDA9.0、cudnn7.3、tensorflow_gpu1.10的安装

0.前言本文作者接触深度学习2个月后，开始进行目标检测实践。本文作者的专题《目标检测》链接：https://www.jianshu.com/c/fd1d6f784c1f此专题的宗旨是让基础较为薄弱的新手能够顺利实现目标检测，专题内容偏向于掌握技能，学会工具的使用。本文作者尚未具备清楚讲述目标检测原理的能力，学习原理请自行另找文章。1.不同操作系统的指引本文中演示的操作系统是Win...

转载 爬虫爬豆瓣电影

上篇文章主要讲了爬虫的几种方式的概念和技巧，不了解或者不太熟悉可以再看看： 网络爬虫常用的几种技巧，三探爬虫，理解爬虫 文章开始之前先讲一下大概步骤，先是确定 URL 格式。 1.首先豆瓣所在的地址为： https://movie.douban.com/top250?start=00&filter=  （不懂得看解释） https:// 代表使用的...

转载 基于matlab的Guass-Seidel(高斯--赛德尔) 迭代法求解线性方程组

算法解释见此：https://blog.csdn.net/zengxyuyu/article/details/53056453 源码在此：main.mclearclcA = [8 -3 2;4 11 -1;6 3 12];b = [20;33;36];[x, n] = jacobi(A,b,[0,0,0]',1.0e-7,30)guaseidel.m​fun...

转载 基于matlab的jacobi(雅可比)迭代法求解线性方程组

说明推导见此博客：https://blog.csdn.net/zengxyuyu/article/details/53054880源码见下面：main.mclearclcA = [8 -3 2;4 11 -1;6 3 12];b = [20;33;36];[x, n] = jacobi(A,b,[0,0,0]',1.0e-7,30)jacobi.m function...

转载 如何用 macOS 优雅的敲 LaTeX

转自：https://www.jianshu.com/p/b1e3b029ded5从大二开始，方开泰教授便要求我们全部使用 LaTeX 来完成我们的Linear Algebra Assignment一、LaTeX 是什么LaTeXis adocument preparation system.[2]When writing, the writer usesplain textas ...

转载 Ubuntu16.04+Pycharm+Anaconda配置

转自：https://blog.csdn.net/sinat_23137713/article/details/53018104  注意，CSDN将不再更https://blog.csdn.net/sinat_23137713/article/details/53018104新，此篇文章转入个人网页博客，地址为： http://blog.roxanne.work/blog/2018...

转载 Linux终端使用wget下载百度云资源 解决数据过分大传输不到服务器上的问题

很多时候为了方便将大文件放到百度云盘中作为共享资源。在windows下和Linux桌面系统中，使用浏览器很容易下载百度云盘里的共享资源，但当我们使用Linux字符界面的时候，就会变的很麻烦。一直在找解决的方法，有人使用百度云应用，通过百度云Linux客户端来解决文件上传与下载问题。百度云盘Linux下的python客户端：https://github.com/houtianze/byp...

原创 Xshell 6 免费版本安装过程 （ Xftp免费版本安装过程与此类似 ）

发现本机的Xshell 6过期了用不了。在百度里搜索，下载安装后还是不可以使用。需要购买注册，后寻的一方法，分享给大家。1.官网进入官网，然后点击Download下方的Free License菜单。 https://www.netsarang.com/ 2.预下载 点击下方Download进行下载：  3.免费注册填写下方红色方框标注的注册信息，注册类型填写...

转载 慕课： 如何用offcie MIX制作视频教--慕课背景下的教学重构

指尖上的慕课第二季 第四十三讲 如何用 Office MIX录制视频课件（一） 　    Office MIX是在Office 2013 SP1或Office 2016的PowePoint上安装的一个小插件，该插件可以帮助老师快速实现录屏和微课制作。为方便各位老师操作，我们特制作此教程供大家使用。第一步：安装并检查Office MIX      在开始使用 Office Mix 前，需要确保已经安...

转载 斯坦福大学Tensorflow与深度学习实战课程

    分享一套Stanford University 在2017年1月份推出的一门Tensorflow与深度学习实战的一门课程。该课程讲解了最新版本的Tensorflow中各种概念、操作和使用方法，并且给出了丰富的深度学习模型实战,涉及Word2vec、AutoEncoder、RNN（LSTM，GRU）、Seq2seq with Attention 、Chatbot: Training and ...