- 博客(432)
- 资源 (6)
- 收藏
- 关注
RSS订阅原创 DKMS解决nvidia-smi驱动丢失的问题
DKMS(Dynamic Kernel Module Support)是DELL的一个项目，可以做到内核变更后自动编译模块，适配新内核。有时在重启机器后，nvidia-smi之后会显示nvidia驱动丢失，这是由于linux内核升级，之前的nvidia驱动就不匹配连接。命令运行之后，nvidia-smi之后正常显示。可以看到有一个nvidia的文件，比如。
2023-04-24 00:04:49
150
1
原创 python使用脚本登录账户(基于selenium+Firefox)
有的时候需要在无可视化界面的情况下登录网址输入账户和密码，此时python的selenium库和Firefox插件geckodriver提供了功能，支持我们利用python代码完成。
2023-04-05 22:15:22
47
原创 Pytorch中使用tensorboard
tensorboard是一款数据分析可视化插件，可以记录在训练过程中的log信息并绘图。Pytorch中使用tensorboard的教程文档：https://pytorch.org/docs/stable/tensorboard.html?highlight=tensorboard#module-torch.utils.tensorboard运行命令后会在./runs/目录下生成对应的文件，之后使用如下命令进行可视化：会在对应端口号的网址，在浏览器中可以看到可视化结果：VSCode中集成了tensor
2022-12-05 23:47:19
414
原创 pandoc实现文档不同格式的转换
Pandoc是一个文档格式转换器，Pandoc可以将下列格式文档进行相互转换。Markdown、Microsoft Word、OpenOffice/LibreOffice、Jupyter notebook、HTML、EPUB、roff man、LaTeX和PDF。
2022-11-15 21:19:44
441
原创 测试ResNet在ImageNet验证集上的准确率
import torchimport torch.nn as nnimport torch.optim as optimimport torch.backends.cudnn as cudnnimport torch.nn.functional as Fimport osimport shutilimport argparseimport numpy as npimport torchvisionimport torchvision.datasets as datasetsimpo
2022-03-30 16:35:08
1611
6
原创 Transformer：Attention is all your need流程+代码详解
原始论文（NIPS 2017）：https://papers.nips.cc/paper/2017/hash/3f5ee243547dee91fbd053c1c4a845aa-Abstract.html参考代码：https://github.com/jadore801120/attention-is-all-you-need-pytorchAttentionScaled Dot-Product Attention涉及到query，key和value 3个输入向量。设有qqq个query向量，维度为d
2021-02-17 19:11:39
590
原创 Ubuntu新硬盘分区并挂载
查看系统里的硬盘分区情况：fdisk -lu准备挂载这个硬盘，首先进行分区：fdisk /dev/sdb输入n表示建立新的分区。默认是p，表示主分区。e为扩展分区Partition number(1-4)时，１表示只分一个区。在Command (m for help)提示符后面输入p，显示分区表。在Command (m for help)提示符后面输入w，保存分区表。系统提示：The partition table has been altered!将分区/dev/sdb1格式
2020-11-05 18:51:45
3662
原创 ssh连入服务器的docker镜像
在服务器上创建一个ubuntu系统的docker，并设置docker端口号为1234：docker run -it -p 1234:22 ubuntu:16.04 /bin/bash修改容器的密码，作为以后ssh连入时的密码：passwd修改ssh配置：vi /etc/ssh/sshd_config将PermitRootLogin的值设为yes重启ssh服务：service ssh start主机连入docker时，输入如下命令：ssh -p 1234 root@IP即可连入成功
2020-10-21 15:03:34
760
原创 Ubuntu系统利用Docker安装mmdetection
参考链接：https://blog.csdn.net/red_stone1/article/details/103717757环境准备：Ubuntu16以上系统中有GPU并且已安装NVIDIA驱动NVIDIA-docker在docker容器中使用GPU，首先需要安装nvidia-docker，github地址如下：https://github.com/NVIDIA/nvidia-docker注意这里，官网也提到，若在docker中运行gpu程序，宿主机环境只需要安装nvidia-驱动即可，无需安
2020-10-08 21:09:27
1152
1
原创 Pytorch的ignite库
Pytorch的ignite库是一个high-level封装训练和测试代码的库，使用库里的对象和函数，我们就会更加简洁的写出训练和测试模型的代码，下面先给出具体的使用例子：from ignite.engine import Events, create_supervised_trainer, create_supervised_evaluatorfrom ignite.metrics import Accuracy, Lossmodel = Net()train_loader, val_loade
2020-09-10 10:54:12
2528
3
原创 Softmax函数和交叉熵Cross-entropy以及KL散度求导
参考链接：https://blog.csdn.net/qian99/article/details/78046329对一个分类神经网络fff，输出为z=f(x;θ),z=[z0,z1,⋯ ,zC−1]z=f(x;\theta),z=[z_{0},z_{1},\cdots,z_{C-1}]z=f(x;θ),z=[z0,z1,⋯,zC−1],zzz为logits，其中类别数量为CCC,yyy为xxx的one-hot标签。通过softmax归一化来得到概率：pi=expzi∑jexpzjp_{i}=
2020-06-22 10:08:07
2019
原创 CIFAR-100数据集可视化图片
CIFAR数据集地址：http://www.cs.toronto.edu/~kriz/cifar.html官方下载后的数据集文件是以byte形式存储的图像文件，如果我们想要可视化图片，则需要自行写一个脚本。以下以CIFAR-100的测试集为例，它的文件名为test，从该文件中提取出10000张32×3232\times 3232×32的图片，并保存每张图片的label到groud_truth.txt。import pickle as pimport numpy as npfrom PIL impo
2020-06-09 23:41:46
3016
3
原创 Gated Convolutional Networks with Hybrid Connectivity for Image Classification,混合连通性的门限卷积网络来进行图像分类
本篇博客介绍在AAAI-2020发表的关于人工设计的一种图像分类结构：论文名称：Gated Convolutional Networks with Hybrid Connectivity for Image Classification论文地址：代码实现：
2020-06-09 16:17:36
1452
11
原创 few shot learning-小样本学习入门
基本概念小样本学习（few shot learning，FSL）可以看做每个类别样本数目远远小于类别数目，也就是说每个类别仅仅只有几个样本可供训练。
2020-04-22 20:48:44
6740
11
原创 Contrastive Multiview Coding（多视角的对比学习编码）
原文题目为：Contrastive Multiview Coding代码链接：https://github.com/HobbitLong/CMC引言本文主要提出了Multiview 的contrastive learning。motivation是现实世界中看待同一个物体具有多个视角，每一个视角都是有噪声和不完整的，但是一些对于该物体很重要的元素，例如physics（物理）, geometr...
2020-04-21 16:28:44
5705
5
原创 变分互信息蒸馏（Variational mutual information KD）
原文标题是Variational Information Distillation for Knowledge Transfer，是CVPR2019的录用paper。思路比较简单，就是利用互信息（mutual information，MI）的角度，增加teacher网络与student网络中间层特征的MI，motivation是因为MI可以表示两个变量的依赖程度，MI越大，表明两者的输出越相关...
2020-04-03 18:23:13
2291
原创 capsule network介绍与实现
论文链接：https://arxiv.org/pdf/1710.09829v1.pdfcapsule网络motivationcapsule网络提出的原因是针对CNN进行特征提取的时候会忽略特征之间的关系，也就是说一张image里打乱region，CNN仍然能够正确识别。参考：https://baijiahao.baidu.com/s?id=1585376284135321218&wfr...
2020-03-18 18:04:39
6129
1
原创 利用torch.autograd.Function自定义层的forward和backward
当我们在Pytorch中想自定义某一层的梯度计算时，可以利用torch.autograd.Function来封装一个class，此时可以我们可以自己在backward方法中自定求解梯度的方法，也适用于不可导函数的backward计算。这个函数的源代码可以从如下链接获取：https://pytorch.org/docs/stable/_modules/torch/autograd/functio...
2020-02-20 16:34:10
6061
2
原创 高斯分布基础知识及scipy实现
概率密度函数(pdf)随机变量XXX的高斯分布的概率密度函数(probability density function,pdf)：f(x)=12πσe−(x−μ)22σ,−∞<x<∞f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^{2}}{2\sigma}},-\infty<x<\inftyf(x)=2πσ1e−2...
2020-02-16 18:52:25
1947
原创 Windows和Ubuntu系统生成SSH公钥
参考链接：https://blog.csdn.net/shog808/article/details/76563136/很多服务器连过去都是需要认证的，ssh认证是其中的一种。需要先在客户端生成公钥，把生成的公钥添加到服务器，之后就可以有权限访问服务器了。以下介绍公钥的生成方法：Windows在Windows上安装git工具，之后打开git的终端，并且定位到C:\Users\winycg\....
2019-11-18 22:37:03
1906
原创 Faster R-CNN详解
Faster R-CNNPytorch实现：https://github.com/jwyang/faster-rcnn.pytorch/tree/pytorch-1.0专门的Region Proposal模块是当前的速度瓶颈,Faster R-CNN 直接用CNN (Region Proposal Network, RPN) 来生成Region Proposal，并且和第二阶段的CNN共享卷积...
2019-11-03 23:47:40
405
原创 高效的从Backbone CNN提取特征的方法：FPN
FPN（Features Pyramid Networks）特征金字塔网络是从backbone CNN中提取特征用于后续目标检测和语义分割等问题。一个top-down结构结合lateral连接来建立所有不同尺度特征的high-level语义特征。背景...
2019-11-02 21:43:28
2959
2
原创 Network Dissection量化网络的可解释性(interpretability)
引言作者提出了量化网络latent representation可解释性的框架：评估单一隐藏单元与语义概念的对齐关系。给定一个CNN，可以对某一卷积层的隐藏单元的语义进行打分。语义具有如下的标签：objects(目标)，parts(物体的一部分)，scenes(场景),textures(纹理)，materials（材料），color(颜色)。...
2019-10-21 18:43:53
1951
3
原创 利用FGSM实现对抗样本攻击
对抗样本的线性解释数字图像通常采用每个像素8bit来编码，因此会抛弃小于1/255的信息。设原始图像为x\bm{x}x,扰动噪声为η\bm{\eta}η,扰动之后的图像为：x~=x+η\tilde{\bm{x}}=\bm{x}+\bm{\eta}x~=x+η如果η\bm{\eta}η小于特征的精度，那么分类器如果做出不同的相应是不合理的。格式上的，对于well-separated类，我们期望...
2019-10-14 21:36:58
6826
6
原创 ImageNet数据集编号对应的类别内容
参考链接：http://befree2008.github.io/2018/10/05/20181005_ImageNet1000ImageNet 2012 1000个类名称和编号。ILSVRC2012_img_train.tar 这个文件解压出来都是一些nxxx这样的目录，也不知道他对应是哪个类，通过找caffe_ilsvrc12.tar.gz能把这些类对应出来。0 n01440764 鱼,...
2019-09-29 22:25:12
34101
2
原创 BagNet特征heatmap可视化
BagNet地址：https://github.com/wielandbrendel/bag-of-local-features-modelsBagNet是ResNet的变体，显著的区别是将3x3卷积变为1x1卷积来达到构造整体网络具有某个最终的感受野(receptive field)目的。在这里主要讲解对于一张来源于ImageNet的尺寸为224x224的原始图像，如何判断其局部的image ...
2019-09-24 11:11:18
1586
2
原创 图像升采样方法
双线性插值(Bilinear-interpolate)参考链接：https://www.cnblogs.com/wxl845235800/p/9608736.html尤其当显示分辨率过低时，在表现非水平或竖直的直线以及明显边缘时，离散的像素点间灰度值缺少过渡，会有很明显的锯齿。对于这种情况，我们需要对图像边缘进行柔化处理，使图像边缘看起来更平滑，更接近现实。同样的，依空间坐标变换方法，计算得到...
2019-09-14 23:21:45
1359
原创 Pytorch张量（Tensor）复制
tensor复制可以使用clone()函数和detach()函数即可实现各种需求。cloneclone()函数可以返回一个完全相同的tensor,新的tensor开辟新的内存，但是仍然留在计算图中。detachdetach()函数可以返回一个完全相同的tensor,新的tensor开辟与旧的tensor共享内存，新的tensor会脱离计算图，不会牵扯梯度计算。此外，一些原地操作(in-pl...
2019-09-13 23:44:36
82590
9
原创 Pytorch常用小函数
参考链接：机器之心环境方面查看Pytorch以及GPU相关信息：torch.__version__ # PyTorch versiontorch.version.cuda # Corresponding CUDA versiontorch.backends.cudnn.version() # Corresponding cuDNN ...
2019-09-10 16:45:22
426
原创 Pytorch获取中间层信息-hook函数
参考链接：https://www.cnblogs.com/hellcat/p/8512090.html由于pytorch会自动舍弃图计算的中间结果，所以想要获取这些数值就需要使用hook函数。hook函数包括tensor的hook和nn.Module的hook，用法相似。hook函数在使用后应及时删除，以避免每次都运行钩子增加运行负载。hook函数主要用在获取某些中间结果的情景，如中间某一层的输...
2019-09-10 15:40:23
6507
5
原创 CNN可视化-Guided Grad-CAM
原文：http://openaccess.thecvf.com/content_ICCV_2017/papers/Selvaraju_Grad-CAM_Visual_Explanations_ICCV_2017_paper.pdf代码链接：https://github.com/kazuto1011/grad-cam-pytorch(b,g)Guided Backprop 提供了高像素的可视化...
2019-09-10 12:31:12
6904
1
原创 数据集COCO在目标检测的介绍与使用
COCO数据集介绍COCO数据集主页：http://cocodataset.orgCOCO数据集是大规模的数据集，用于Object Detection + Segmentation + Localization + Captioning。数据集下载：http://cocodataset.org/#download目前常用的是2017 Train images [118K/18GB]和201...
2019-09-02 11:42:38
12230
10
原创 基于深度学习的目标检测和分割
参考链接：https://www.jianshu.com/p/5056e6143ed5目标检测技术的演进：RCNN->SppNET->Fast-RCNN->Faster-RCNN不同于分类问题，物体检测可能会存在多个检测目标，这不仅需要我们判别出各个物体的类别，而且还要准确定位出物体的位置。首先讲解几个常用的概念：Bbox，IoU，非极大值抑制。Bounding Box...
2019-09-01 10:38:40
5299
原创 Pytorch分布式训练
参考文献：https://www.cnblogs.com/jfdwd/p/11196439.htmlNCCLNVIDIA Collective Communication Library (NCCL) ：NVIDIA分布式通信库，负责加速共同通信原语，不是一个并行编程框架。利用NCCL可以在多GPU训练下的优化。下载安装链接：https://docs.nvidia.com/deeplearn...
2019-08-28 11:35:09
5753
1
2016年国科大NLP（自然语言处理）期末考试题-宗老师
2019-07-07
360断网急救箱独立版
2018-04-17
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人