自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(421)
  • 资源 (6)
  • 论坛 (3)
  • 收藏
  • 关注

原创 Ubuntu新硬盘分区并挂载

查看系统里的硬盘分区情况:fdisk -lu准备挂载这个硬盘,首先进行分区:fdisk /dev/sdb输入n表示建立新的分区。默认是p,表示主分区。e为扩展分区Partition number(1-4)时,1表示只分一个区。在Command (m for help)提示符后面输入p,显示分区表。在Command (m for help)提示符后面输入w,保存分区表。系统提示:The partition table has been altered!将分区/dev/sdb1格式

2020-11-05 18:51:45 99

原创 ssh连入服务器的docker镜像

在服务器上创建一个ubuntu系统的docker,并设置docker端口号为1234:docker run -it -p 1234:22 ubuntu:16.04 /bin/bash修改容器的密码,作为以后ssh连入时的密码:passwd修改ssh配置:vi /etc/ssh/sshd_config将PermitRootLogin的值设为yes重启ssh服务:service ssh start主机连入docker时,输入如下命令:ssh -p 1234 root@IP即可连入成功

2020-10-21 15:03:34 55

原创 Ubuntu系统利用Docker安装mmdetection

参考链接:https://blog.csdn.net/red_stone1/article/details/103717757环境准备:Ubuntu16以上系统中有GPU并且已安装NVIDIA驱动NVIDIA-docker在docker容器中使用GPU,首先需要安装nvidia-docker,github地址如下:https://github.com/NVIDIA/nvidia-docker注意这里,官网也提到,若在docker中运行gpu程序,宿主机环境只需要安装nvidia-驱动即可,无需安

2020-10-08 21:09:27 167

原创 Pytorch的ignite库

Pytorch的ignite库是一个high-level封装训练和测试代码的库,使用库里的对象和函数,我们就会更加简洁的写出训练和测试模型的代码,下面先给出具体的使用例子:from ignite.engine import Events, create_supervised_trainer, create_supervised_evaluatorfrom ignite.metrics import Accuracy, Lossmodel = Net()train_loader, val_loade

2020-09-10 10:54:12 229 2

原创 Softmax函数和交叉熵Cross-entropy以及KL散度求导

参考链接:https://blog.csdn.net/qian99/article/details/78046329对一个分类神经网络fff,输出为z=f(x;θ),z=[z0,z1,⋯ ,zC−1]z=f(x;\theta),z=[z_{0},z_{1},\cdots,z_{C-1}]z=f(x;θ),z=[z0​,z1​,⋯,zC−1​],zzz为logits,其中类别数量为CCC,yyy为xxx的one-hot标签。通过softmax归一化来得到概率:pi=exp⁡zi∑jexp⁡zjp_{i}=

2020-06-22 10:08:07 405

原创 CIFAR-100数据集可视化图片

CIFAR数据集地址:http://www.cs.toronto.edu/~kriz/cifar.html官方下载后的数据集文件是以byte形式存储的图像文件,如果我们想要可视化图片,则需要自行写一个脚本。以下以CIFAR-100的测试集为例,它的文件名为test,从该文件中提取出10000张32×3232\times 3232×32的图片,并保存每张图片的label到groud_truth.txt。import pickle as pimport numpy as npfrom PIL impo

2020-06-09 23:41:46 488 1

原创 Gated Convolutional Networks with Hybrid Connectivity for Image Classification,混合连通性的门限卷积网络来进行图像分类

本篇博客介绍在AAAI-2020发表的关于人工设计的一种图像分类结构:论文名称:Gated Convolutional Networks with Hybrid Connectivity for Image Classification论文地址:代码实现:

2020-06-09 16:17:36 569 5

原创 few shot learning-小样本学习入门

基本概念小样本学习(few shot learning,FSL)可以看做每个类别样本数目远远小于类别数目,也就是说每个类别仅仅只有几个样本可供训练。

2020-04-22 20:48:44 822 2

原创 Contrastive Multiview Coding(多视角的对比学习编码)

原文题目为:Contrastive Multiview Coding代码链接:https://github.com/HobbitLong/CMC引言本文主要提出了Multiview 的contrastive learning。motivation是现实世界中看待同一个物体具有多个视角,每一个视角都是有噪声和不完整的,但是一些对于该物体很重要的元素,例如physics(物理), geometr...

2020-04-21 16:28:44 1616 2

原创 变量之间的相关性度量

sss

2020-04-15 15:13:35 1102

原创 变分互信息蒸馏(Variational mutual information KD)

原文标题是Variational Information Distillation for Knowledge Transfer,是CVPR2019的录用paper。思路比较简单,就是利用互信息(mutual information,MI)的角度,增加teacher网络与student网络中间层特征的MI,motivation是因为MI可以表示两个变量的依赖程度,MI越大,表明两者的输出越相关...

2020-04-03 18:23:13 448

原创 capsule network介绍与实现

论文链接:https://arxiv.org/pdf/1710.09829v1.pdfcapsule网络motivationcapsule网络提出的原因是针对CNN进行特征提取的时候会忽略特征之间的关系,也就是说一张image里打乱region,CNN仍然能够正确识别。参考:https://baijiahao.baidu.com/s?id=1585376284135321218&wfr...

2020-03-18 18:04:39 1572

原创 利用torch.autograd.Function自定义层的forward和backward

当我们在Pytorch中想自定义某一层的梯度计算时,可以利用torch.autograd.Function来封装一个class,此时可以我们可以自己在backward方法中自定求解梯度的方法,也适用于不可导函数的backward计算。这个函数的源代码可以从如下链接获取:https://pytorch.org/docs/stable/_modules/torch/autograd/functio...

2020-02-20 16:34:10 1096

原创 高斯分布基础知识及scipy实现

概率密度函数(pdf)随机变量XXX的高斯分布的概率密度函数(probability density function,pdf):f(x)=12πσe−(x−μ)22σ,−∞<x<∞f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^{2}}{2\sigma}},-\infty<x<\inftyf(x)=2π​σ1​e−2...

2020-02-16 18:52:25 562

原创 Windows和Ubuntu系统生成SSH公钥

参考链接:https://blog.csdn.net/shog808/article/details/76563136/很多服务器连过去都是需要认证的,ssh认证是其中的一种。需要先在客户端生成公钥,把生成的公钥添加到服务器,之后就可以有权限访问服务器了。以下介绍公钥的生成方法:Windows在Windows上安装git工具,之后打开git的终端,并且定位到C:\Users\winycg\....

2019-11-18 22:37:03 699

原创 Faster R-CNN详解

Faster R-CNNPytorch实现:https://github.com/jwyang/faster-rcnn.pytorch/tree/pytorch-1.0专门的Region Proposal模块是当前的速度瓶颈,Faster R-CNN 直接用CNN (Region Proposal Network, RPN) 来生成Region Proposal,并且和第二阶段的CNN共享卷积...

2019-11-03 23:47:40 128

原创 高效的从Backbone CNN提取特征的方法:FPN

FPN(Features Pyramid Networks)特征金字塔网络是从backbone CNN中提取特征用于后续目标检测和语义分割等问题。一个top-down结构结合lateral连接来建立所有不同尺度特征的high-level语义特征。背景...

2019-11-02 21:43:28 1096

原创 Network Dissection量化网络的可解释性(interpretability)

引言作者提出了量化网络latent representation可解释性的框架:评估单一隐藏单元与语义概念的对齐关系。给定一个CNN,可以对某一卷积层的隐藏单元的语义进行打分。语义具有如下的标签:objects(目标),parts(物体的一部分),scenes(场景),textures(纹理),materials(材料),color(颜色)。...

2019-10-21 18:43:53 793

原创 利用FGSM实现对抗样本攻击

对抗样本的线性解释数字图像通常采用每个像素8bit来编码,因此会抛弃小于1/255的信息。设原始图像为x\bm{x}x,扰动噪声为η\bm{\eta}η,扰动之后的图像为:x~=x+η\tilde{\bm{x}}=\bm{x}+\bm{\eta}x~=x+η如果η\bm{\eta}η小于特征的精度,那么分类器如果做出不同的相应是不合理的。格式上的,对于well-separated类,我们期望...

2019-10-14 21:36:58 2777 4

原创 ImageNet数据集编号对应的类别内容

参考链接:http://befree2008.github.io/2018/10/05/20181005_ImageNet1000ImageNet 2012 1000个类名称和编号。ILSVRC2012_img_train.tar 这个文件解压出来都是一些nxxx这样的目录,也不知道他对应是哪个类,通过找caffe_ilsvrc12.tar.gz能把这些类对应出来。0 n01440764 鱼,...

2019-09-29 22:25:12 8023

原创 BagNet特征heatmap可视化

BagNet地址:https://github.com/wielandbrendel/bag-of-local-features-modelsBagNet是ResNet的变体,显著的区别是将3x3卷积变为1x1卷积来达到构造整体网络具有某个最终的感受野(receptive field)目的。在这里主要讲解对于一张来源于ImageNet的尺寸为224x224的原始图像,如何判断其局部的image ...

2019-09-24 11:11:18 577 2

原创 图像升采样方法

双线性插值(Bilinear-interpolate)参考链接:https://www.cnblogs.com/wxl845235800/p/9608736.html尤其当显示分辨率过低时,在表现非水平或竖直的直线以及明显边缘时,离散的像素点间灰度值缺少过渡,会有很明显的锯齿。对于这种情况,我们需要对图像边缘进行柔化处理,使图像边缘看起来更平滑,更接近现实。同样的,依空间坐标变换方法,计算得到...

2019-09-14 23:21:45 524

原创 Pytorch张量(Tensor)复制

tensor复制可以使用clone()函数和detach()函数即可实现各种需求。cloneclone()函数可以返回一个完全相同的tensor,新的tensor开辟新的内存,但是仍然留在计算图中。detachdetach()函数可以返回一个完全相同的tensor,新的tensor开辟与旧的tensor共享内存,新的tensor会脱离计算图,不会牵扯梯度计算。此外,一些原地操作(in-pl...

2019-09-13 23:44:36 23425 8

原创 Pytorch常用小函数

参考链接:机器之心环境方面查看Pytorch以及GPU相关信息:torch.__version__ # PyTorch versiontorch.version.cuda # Corresponding CUDA versiontorch.backends.cudnn.version() # Corresponding cuDNN ...

2019-09-10 16:45:22 225

原创 Pytorch获取中间层信息-hook函数

参考链接:https://www.cnblogs.com/hellcat/p/8512090.html由于pytorch会自动舍弃图计算的中间结果,所以想要获取这些数值就需要使用hook函数。hook函数包括tensor的hook和nn.Module的hook,用法相似。hook函数在使用后应及时删除,以避免每次都运行钩子增加运行负载。hook函数主要用在获取某些中间结果的情景,如中间某一层的输...

2019-09-10 15:40:23 2235

原创 CNN可视化-Guided Grad-CAM

原文:http://openaccess.thecvf.com/content_ICCV_2017/papers/Selvaraju_Grad-CAM_Visual_Explanations_ICCV_2017_paper.pdf代码链接:https://github.com/kazuto1011/grad-cam-pytorch(b,g)Guided Backprop 提供了高像素的可视化...

2019-09-10 12:31:12 1947

原创 数据集COCO在目标检测的介绍与使用

COCO数据集介绍COCO数据集主页:http://cocodataset.orgCOCO数据集是大规模的数据集,用于Object Detection + Segmentation + Localization + Captioning。数据集下载:http://cocodataset.org/#download目前常用的是2017 Train images [118K/18GB]和201...

2019-09-02 11:42:38 4726 3

原创 基于深度学习的目标检测和分割

参考链接:https://www.jianshu.com/p/5056e6143ed5目标检测技术的演进:RCNN->SppNET->Fast-RCNN->Faster-RCNN不同于分类问题,物体检测可能会存在多个检测目标,这不仅需要我们判别出各个物体的类别,而且还要准确定位出物体的位置。首先讲解几个常用的概念:Bbox,IoU,非极大值抑制。Bounding Box...

2019-09-01 10:38:40 2440

原创 Pytorch分布式训练

参考文献:https://www.cnblogs.com/jfdwd/p/11196439.htmlNCCLNVIDIA Collective Communication Library (NCCL) :NVIDIA分布式通信库,负责加速共同通信原语,不是一个并行编程框架。利用NCCL可以在多GPU训练下的优化。下载安装链接:https://docs.nvidia.com/deeplearn...

2019-08-28 11:35:09 2138

原创 Pytorch实现常用正则化

Stochastic Depth论文:Deep Networks with Stochastic Depth本文的正则化针对于ResNet中的残差结构,类似于dropout的原理,训练时对模块进行随机的删除,从而提升模型的泛化能力。对于上述的ResNet网络,模块越在后面被drop掉的概率越大。作者直觉上认为前期提取的低阶特征会被用于后面的层。第一个模块保留的概率为1,之后保留概率随着深度...

2019-07-17 21:42:14 1312

原创 优化Pytorch框架的数据加载过程

queue模块参考链接:https://www.cnblogs.com/skiler/p/6977727.htmlhttps://blog.csdn.net/qq_41185868/article/details/80502072queue模块是python自带的模块。实现了多生产者,多消费者的队列。当要求信息必须在多线程间安全交换,这个模块在线程编程时非常有用。Queue模块实现了所有要求...

2019-06-16 23:52:39 3017 2

原创 强化学习概论2

参考链接:https://morvanzhou.github.io/tutorials/machine-learning/reinforcement-learning/1-1-A-RL/https://morvanzhou.github.io/tutorials/machine-learning/reinforcement-learning/1-1-B-RL-methods/定义强化学习是一...

2019-05-20 21:38:52 249

原创 model-free强化学习-Policy-based

Policy-based将神经网络作为一个Actor,输入是观测observation,表示形式是一个向量或一个矩阵。输出是每个行为对应的概率,类似于分类问题中的判断类别,会对应每个类别有个概率,如下如所示:考虑一个episode τ={s1,a1,r1,s2,a2,r2,...,sT,aT,rT,}\tau=\{s_{1},a_{1}, r_{1},s_{2},a_{2}, r_{2},....

2019-05-20 00:42:13 254

原创 变分自编码器VAE实现MNIST数据集生成by Pytorch

Recap自编码器:自编码器中,需要输入一个原始图片,原始图片经过编码之后得到一个隐向量,隐向量解码产生原图片对应的图片。在这种情况下,只能生成原图片对应的图片而无法任意生成新的图片,因为隐向量都是原始图片确定的。变分自编码器VAE引入变分自编码器(Variational autoencoder)可以在遵循某一分布下随机产生一些隐向量来生成与原始图片不相同的图片,而不需要预先给定原始图片。为...

2019-05-18 17:57:08 5512 3

原创 GAN入门实现MNIST数据集生成

参考:https://www.cnblogs.com/bonelee/p/9166084.htmlGAN框架对抗式生成网络GAN(Generative Adversarial Net),是一个非常流行的生成式模型。 GAN 有两个网络,一个是 生成器generator,用来生成伪样本;一个是判别器 discriminator,用于判断样本的真假。通过两个网络互相博弈和对抗来达到最好的生成效果,...

2019-04-16 17:40:21 356 9

原创 pytorch实现SeNet

论文链接:https://arxiv.org/abs/1709.01507 senet的全称为Squeeze-and-Excitation Networks,压缩-激活网络。网络结构FtrF_{tr}Ftr​可以看做是对feature-map的transform,将X(H′×W′×C′)X(H^{&#x27;}\times W^{&#x27;}\times C^{&...

2019-04-13 17:34:33 7272 10

原创 Pytorch实现DPN网络

论文地址:https://arxiv.org/abs/1707.01629该网络主要是将ResNeXt与DenseNet进行了融合。实质上是融合ResNet的element-wise的相加和Densenet的concatenate,只不过bottleneck层的3×3卷积使用了group卷积,所以看做了ResNeXt。(d)图展示了具体过程,其实图中的圆圈+号为channel-wise的fe...

2019-04-10 00:13:06 847

原创 使用ngrok实现内网穿透功能

参考:https://blog.csdn.net/Lucifer_zzq/article/details/80408630当我们需要在外地访问在局域网内的服务器时,需要进行内网穿透才能远程连接。常用的内网穿透工具是ngrok,下载地址是:https://ngrok.com/download需要现在官网注册一个账户,并生成一个Tunnel Authtoken:https://dashboard...

2019-04-08 22:07:13 3314 3

原创 Pytorch实现ResNeXt

论文地址:https://arxiv.org/abs/1611.05431就是将Bottleneck中间部分的3x3卷积变为了组卷积,cardinality就是组数。对于vanilla Bottleneck,参数量是69632,使用组卷积后的参数量是81088。但是组合成完整的神经网络之后,ResNeXt在与ResNet参数相同的情况下,性能更好。相同参数情况下,增加 cardinalit...

2019-04-07 23:54:06 2756 3

原创 pycharm常用的扩展功能

Pycharm专业版破解下载Pycharm专业版,并解压得到pycharm-2018.3.5文件夹.下载最新版本的破解补丁:JetbrainsIdesCrack-4.2-release-sha1-3323d5d0b82e716609808090d3dc7cb3198b8c4b.jar将破解补丁移到pycharm-2018.3.5/bin文件夹下,运行如下命令:java -jar Jetbr...

2019-04-05 16:51:57 980

2016年国科大NLP(自然语言处理)期末考试题-宗老师

2016年国科大NLP(自然语言处理)期末考试题,重点包括汉语分词的歧义问题,文法与自动机转换,机器翻译评价指标,Chart算法进行句法分析,朴素贝叶斯文本分类等等。

2019-07-07

信息检索导论王斌译

信息检索导论中文版,由信王斌老师翻译。常作为各大高校信息检索的教材使用。

2018-12-01

360断网急救箱独立版

在出现网络问题时可以进行修复:1.网络硬件配置:检查网线是否插好,网卡以及驱动是否正常工作。2.网络连接配置:检查网卡相关配置是否正确,IP地址是否配置正确。3.检查DHCP服务 4.DNS服务

2018-04-17

EasyBCD2.2

可用于安装双系统时添加开机启动项,以及对启动项进行管理和修复

2018-01-25

TensorFlow利用卷积神经网络识别手写数据集MNIST

TensorFlow利用卷积神经网络识别手写数据集MNIST,使用2个卷积层,1个全连接隐藏层,1个输出层

2017-11-18

《淘宝商品价格数据挖掘》项目报告

淘宝商品价格的简单爬虫,利用正则表达式匹配商品和价格,然后输出

2017-11-18

winycg的留言板

发表于 2020-01-02 最后回复 2020-03-23

使用markdown编辑数学公式发表之后格式混乱的问题何时能修复

发表于 2018-03-02 最后回复 2018-03-05

发布的文章中的LaTex公式被屏蔽了怎么回事

发表于 2017-12-15 最后回复 2018-03-02

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人 TA的粉丝

提示
确定要删除当前文章?
取消 删除