自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(44)
  • 收藏
  • 关注

原创 大模型精度评测

本文参考opncompass进行大模型的精度评测。

2024-04-02 09:25:30 18

原创 大模型推理框架——text-generation-inference

这里model-id可以修改为本地模型路径。

2024-04-02 09:14:38 87

原创 大模型推理框架-vllm

项目地址:

2024-04-02 09:06:58 67

原创 大模型网络分析

(更新中。。。

2024-04-02 08:51:46 71

原创 大模型显存占用分析

注:b表示batch size,第一个2表示k/v cache,第二个2表示FP16占2字节。例:GPT3-175B,模型占用显存:350G(FP16),层数l为96,维度h为12888。假设序列输入长度:s,输出长度:n,数据类型以FP16来保存KV cache。峰值显存占用:b(s+n)h。

2024-04-02 08:47:38 64

原创 Argparse中action的可选参数

action="store_false,默认值是True。action="store_true,默认值是False。action="store_false,手动指定该参数后才为False。action="store_true,手动指定该参数后才为True。

2023-08-09 10:47:44 202

原创 FasterTransformer编译安装与测试

基础环境:centos7 + cuda10.2+cudnn7显卡:Tesla V100。

2023-05-24 14:20:50 1915 2

原创 ResNet

为了方便对比,这里左图输入以256(论文为64)来计算。左图:3x3x256x256+3x3x256x256=1179648右图:1x1x256x64+3x3x64x64+1x1x64x256=69632卷积计算:out=(in-k+2p) / s + 1使用残差结构可以极大减少计算量。

2023-03-14 15:33:05 400

原创 linux删除僵尸进程

kill -l常用信号:HUP 1:重新加载进程。INT 2:中断(同 Ctrl + C)QUIT 3:退出(同 Ctrl + )KILL 9:强制终止TERM 15 :终止。

2022-10-14 09:31:36 3379

原创 JAX安装

本文安装版本为:jax0.2.21、jaxlib0.1.72、tensorflow2.7。

2022-08-30 09:20:06 4919 2

原创 shell终端下执行多个py文件

修改为自己的python安装路径修改cd的路径。

2022-08-20 14:18:01 1789

原创 VSCode连接远程服务器及docker

安装过程中不报错,检查/etc/ssh目录下若有sshd_config配置文件则为安装成功。1、点击左侧工具栏中的扩展,搜索“ssh”,选择第一个进行安装(此处已安装)1、点击左侧工具栏中的“远程”可以查看远程连接,再点击**+**2、点击添加按钮,输入远程服务器的地址,账号和ip自己进行修改。选择以后才会出现输入密码,之后成功连接远程服务器。4、设置root密码,用于VScode登录使用。4、可以自行选择远程服务器的文件进行操作。6、再按照连接服务器方式进行连接即可。...

2022-08-16 17:56:04 7468

原创 YOLOv5-6.1添加注意力机制(SE、CBAM、ECA、CA)

0. 添加方法主要步骤:(1)在models/common.py中注册注意力模块(2)在models/yolo.py中的parse_model函数中添加注意力模块(3)修改配置文件yolov5s.yaml(4)运行yolo.py进行验证各个注意力机制模块的添加方法类似,各注意力模块的修改参照SE。完整代码链接:1. SE(1)在models/common.py中注册SE模块class SE(nn.Module): def __init__(self, c1, c2, ratio=

2022-05-06 21:49:04 42549 118

原创 AlphaPose环境配置与测试

1. AlphaPose环境配置项目地址:https://github.com/MVIG-SJTU/AlphaPose(1)安装anaconda(参考链接1.1)https://blog.csdn.net/weixin_50008473/article/details/115250986?spm=1001.2014.3001.5501(2)创建虚拟环境:conda create -n alphapose python=3.6 -y(3)进入虚拟环境:conda activate alphapose

2022-04-07 14:53:27 5763

原创 YOLOv3训练自定义数据集

1. 下载YOLOv3和权重文件YOLOv3:git clone https://github.com/pjreddie/darknetyolov3.weights:wget https://pjreddie.com/media/files/yolov3.weightsdarknet53.conv.74:wget https://pjreddie.com/media/files/darknet53.conv.742. 数据集处理(1)在scripts文件夹下按如下目录创建VOCdevkit 文件夹

2022-03-28 21:12:01 4034

原创 YOLOv4训练自定义数据集

目录1.环境配置2.权重下载3.数据集处理4.修改配置文件4.1 修改data/voc.names4.2 修改data/voc.data4.3 修改cfg/yolov4.cfg4.4 修改Makefile文件5.开始训练文献地址:https://arxiv.org/pdf/2004.10934.pdf源码地址:https://github.com/AlexeyAB/darknet1.环境配置https://blog.csdn.net/weixin_50008473/article/details/1

2022-03-18 14:06:39 4273

原创 cannot import name ‘get_installed_distributions‘

原因:在21.1.3中该方法被去除方法:检查pip版本:pip show pip若为21.1.3,请尝试降级或升级后再试降级方法:pip install pip==21.2.4(版本号)升级方法:pip install --upgrade pip注:降级为21.2.x后该方法可以正常使用...

2022-02-27 22:02:24 1851

原创 机器学习算法 之 KNN和K-Means

1.机器学习算法分类<1>监督学习监督学习——根据输入数据(训练数据)学习一个模型,能对后来的输入做预测。其中输入变量和输出变量可以是连续的,也可以是离散的。回归即:输入变量和输出变量均为连续变量分类即:输出变量为有限个离散变量标注即:输入变量与输出变量均为变量序列算法:分类(类别)、回归(数字)<2>非监督学习监督学习:训练数据有标注类别。非监督学习:训练数据没有标注类别。算法:聚类,降维聚类基于划分、层次、密度、图形和模型五大类<3>半监督学习

2022-02-25 20:17:48 1626 1

原创 YOLOv5_DeepSORT_Pytorch训练自己的多目标跟踪模型

1 准备环境配置:https://blog.csdn.net/weixin_50008473/article/details/115250986?spm=1001.2014.3001.5501YOLOv5_DeepSORT_Pytorch代码地址:https://github.com/mikel-brostrom/Yolov5_DeepSort_PytorchDeepSORT论文:https://arxiv.org/pdf/1703.07402.pdf2 训练目标检测模型训练自己的目标检测模

2022-01-06 21:34:16 11078 84

原创 算法题——动态规划

目录1 最小路径和2 编辑距离3 最长回文子序列4 两个字符串的删除操作5 最长公共子序列6 让字符串成为回文串的最少插入次数前言:最近准备笔试和面试的时候,发现了一个爱考的知识点——动态规划,特此整理。1 最小路径和力扣64题题解题目:给定一个包含非负整数的 m x n 网格 grid ,请找出一条从左上角到右下角的路径,使得路径上的数字总和为最小。说明:每次只能向下或者向右移动一步。code:def minPathSum(self, grid): """ :type g

2021-10-18 22:04:41 355

原创 交叉熵损失函数原理和推导

目录一 交叉熵原理1 信息量2 信息熵(熵)3 相对熵(KL散度)4 交叉熵5 小结二 推导1 Logistic交叉熵损失函数2 Softmax交叉熵损失函数附录 求导公式和法则一 交叉熵原理1 信息量信息量的大小与信息发生的概率成反比。公式如下:I(x)=−log(P(x))I(x)=-log (P(x))I(x)=−log(P(x))其中,I(x)I(x)I(x)为信息量,P(x)P(x)P(x)为某一事件发生的概率2 信息熵(熵)信息熵用来表示所有信息量的期望。公式如下:H(X)=

2021-09-28 12:51:24 936

原创 矩阵微分推导

1.函数实质:空间到空间的映射。不同空间相互映射的函数类型如下:常见映射:标量、向量(n 维)、矩阵(mxn 维)到标量、向量(n 维)、矩阵(mxn维)2.导数和微分标量到标量映射的导数和微分:向量/矩阵为变量的函数导数与微分各种导数的定义都是用因变量的各分量对自变量的各分量计算偏导,然后将计算出来的 N 多结果以某种形式表达,通常是以向量或矩阵形式表达。向量或矩阵的具体组织方式称为布局,不同的布局计算得到的公式是有差别的,因此必需有个约定。3.向量/矩阵导数和微分的布局两种基

2021-09-22 11:47:00 867

原创 NVIDIA AGX jetpack4.3版本更新至jetpack4.4(包含CUDA、TensorRT环境)

1 硬盘挂载(1)显示硬盘和所属分区情况,执行命令:sudo fdisk -l如下图所示:此时240G的硬盘没有识别出来。(2)对硬盘进行分区并格式化,执行如下命令1>sudo parted /dev/nvme0n12>mklabel gpt3>mkpart primary 2048s 100%4>quit5>sudo mkfs.ext4 /dev/nvme0n1p1(3)查看操作后的硬盘详情,执行命令:sudo fdisk -l如上图,/dev/nvme

2021-09-04 15:41:55 1546 1

原创 pip3安装pillow失败

sudo apt-get install libtiff5-dev libjpeg8-dev zlib1g-dev libfreetype6-dev liblcms2-dev libwebp-dev tcl8.6-dev tk8.6-dev python-tksudo apt-get install python3-dev

2021-08-13 15:15:11 605

原创 ubuntu下Makefile:xxx: recipe for target ‘xxx‘ failed

在Ubuntu下,编译Kernel报如下错误:Makefile:1150: recipe for target ‘altbininstall’ failed make: *** [altbininstall] Error 1原因:缺少工具lzo解决:安装lzo(1)wget http://www.oberhumer.com/opensource/lzo/download/lzo-2.06.tar.gz(2) sudo su(3)tar xzvf lzo-2.06.tar.gz(4)cd lzo

2021-08-12 16:22:49 3775 1

原创 将python文件打包为so文件

代码参考:https://github.com/ArvinMei/py2so准备:1.系统安装python-devel 和 gcc:sudo apt-get install aptitude sudo aptitude install python-dev sudo apt-get install build-essential2.python安装cython:pip install cython执行:(1)编译某个文件夹:python py2so.py(2)生成结果:目录 buil

2021-08-09 17:24:32 842

原创 docker部署ubuntu18.04深度学习环境——cuda11.1、cudnn8.0.5、pytorch1.8.0、tensorrt7.2.2.3、opencv4.4.0

这里写目录标题一级目录二级目录三级目录1 安装nvidia显卡驱动2 安装docker3 安装docker compose4 安装nvidia-docker5 下载 nvidia CUDA 镜像6 安装python3.8环境7 安装pytorch1.88 提交容器成为新镜像常用命令附录一级目录二级目录三级目录1 安装nvidia显卡驱动参考2.2更新驱动:https://blog.csdn.net/weixin_50008473/article/details/1152509862 安装dock

2021-08-07 00:30:41 7671 15

原创 目标检测数据集标注工具之labelimg的使用

1.安装:若电脑安装了python3,cmd命令行输入以下命令pip install labelimg2.打开:终端输入labelimg3.使用:(1) 设置自动保存(2)工具栏使用Open Dir:需要标注的图片文件夹Change Save Dir:标注文件存放的文件夹Next Image:切换下一张,对应快捷键dPrev Image:切换上一张,对应快捷键a(3)标注Create\nRectBox(对应快捷键w):框选目标,文本框标注类别即可标注完后得到标注的xml文件,内

2021-08-03 09:08:07 885 1

原创 数据集处理

1.筛选voc数据集中指定类别以猫狗为例:# -*- coding: utf-8 -*-import osimport shutilann_filepath = r'C:/Users/double_ww/Desktop/Annotations/' # 数据集标注文件夹路径img_filepath = r'C:/Users/double_ww/Desktop/JPEGImages/' # 数据集图片文件夹路径img_savepath = r'C:/Users/double_ww/Desk

2021-07-14 10:33:12 438

原创 nvidia jetson xavier刷机以及pytorch1.7.0环境配置

1. nvidia jetson xavier刷机准备:安装有Ubuntu 1804系统的PC一台、Jetson设备和电源、Type-C接口的USB连接线一根刷机步骤:1.使用Type-C接口的USB线把PC与Jetson设备连接起来(设备端口为Type-C的OTG端口)2.在Jetson关机状态下,使用细针按住recovery button不放,再按开机键,进入recovery模式 (在机器外壳侧面标有rc的小孔内,即是recovery button)3.解压文件:tar xzvf mfi_nx

2021-07-07 13:43:04 1002

原创 sudo: error in /etc/sudo.conf, line 0 while loading plugin ‘sudoers_policy‘

当服务器运行某应用时,执行sudo chmod -R 777 /usr/bin出现:sudo: error in /etc/sudo.conf, line 0 while loading plugin ‘sudoers_policy’解决方案:chmod 644 /usr/lib/sudo/sudoers.sochown -R root /usr/lib/sudo!!!(*****)设置root密码:sudo passwd root第一次输入:当前root的密码;第二、三次输入:更新的密

2021-07-06 11:16:48 6375

原创 执行sh ./xxx.sh出现:“Syntax error: “(” unexpected”

对于标准bash正确,但由于Ubuntu为了加快开机速度,用dash代替了传统的bash。解决方法:取消dash1.执行:sudo dpkg-reconfigure dash2.选择项:选择No

2021-06-22 17:46:57 378

原创 小命令——性能测试

资源占用1.查看带宽:sudo iftop2.查看内存占用:(1)htop :显示内存占用;(2)top :显示内存占用百分比;3.查看显存占用:watch -n 3 nvidia-smi

2021-05-28 10:28:13 80

原创 Ubuntu 18.04 TensorRT 加速YOLOv5

1. 安装OpenCVgit获取OpenCV源代码:git clone https://github.com/opencv/opencv.git安装依赖库sudo apt-get install -y cmake#借助系统自带的opencv简化依赖安装步骤sudo apt-get install -y libopencv-dev编译源代码cd opencvmkdir buildcd buildcmake ..make -j 10替换已经安装的版本sudo make inst

2021-05-21 17:01:23 1126 7

原创 Git的安装和基本操作

具体参考git文档:https://git-scm.com/book/zh/v21. 基本设置1.设置账户:git config --global user.name xxxgit config --global user.email [email protected].查看设置:git config --list2. 创建仓库1.cd 已存在目录,执行:git init该命令将创建一个名为 git 的子目录,含有初始化的 Git 仓库中所有的必须文件2.拷贝一份远程仓库:git clon

2021-05-12 15:09:00 161

原创 conda环境及下载问题

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/cond

2021-05-07 11:32:47 765

原创 安装ubuntu18.04操作系统

本次操作使用光盘安装。将引导光盘插入服务器光驱中,重启电脑按F12进入启动盘选择第一项IPV4,如下图:出现下图界面,需等待两分钟:进入新界面如下,选择F9:选择第二项:一直默认安装,!!!:Installation type选择Erase disk and install UbuntuInstall Now完成安装。重启。若出现如下问题:参考: https://blog.csdn.net/weixin_50008473/article/details/116458805?

2021-05-07 09:28:30 684

原创 /dev/nvme01p2: clean, 153152/31227904 files, 4443423/124895488 blocks

cat /proc/driver/nvidia/version2.sudo apt purge nvidia-*3.ubuntu-drivers devices4.sudo apt-get install nvidia-driver-460reboot

2021-05-06 17:36:11 1010

原创 Failed to initialize NVML: Driver/library version mismatch

问题:nvidia-smiFailed to initialize NVML: Driver/library version mismatch原因:NVIDA内核驱动版本和系统驱动不匹配。本机配置:NVIDIA RTX3080(单显卡)Ubuntu18.041. 禁用nouveau安装NVIDIA需要禁用系统自带的驱动,打开文件:sudo vim /etc/modprobe.d/blacklist.conf文件末尾添加以下内容:blacklist nouveauoption nouveau

2021-04-21 20:27:39 1206 1

原创 安装Ubnutu18.04图形化界面

ubuntu无法进入桌面,安装ubuntu-desktop失败1. 解决方法Ctrl+Alt+F1(或者F2-F8)进入命令行界面,输入账户名和密码登录卸载Xwindows软件 sudo apt-get autoremove ubuntu-desktop 安装所有依赖软件 sudo apt-get update sudo apt-get install ubuntu-desktop重启 sudo rebootP.若执行sudo apt-ge

2021-04-21 19:11:53 736 2

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除