自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(149)
  • 资源 (71)
  • 论坛 (1)
  • 收藏
  • 关注

原创 Few-shot learning经典算法之PyTorch实现

最近也在学习Few-shot learning,用Few-shot learning方法作图像分类,下面对Few-shot learning经典算法及其PyTorch实现作一下梳理:MAML:Model-Agnostic Meta-Learning for Fast Adaptation of Deep NetworksPyTorch code:1.https://github.com/dragen1860/MAML-Pytorch2.https://github.com/katerak..

2020-10-12 10:52:03 89

原创 Python读取txt、csv等文件出现\ufeff、\u202a等非法字符解决方法

在利用Python读取txt、csv等文件时,有时会出现\ufeff、\u202a等非法字符,其若出现在解析文件路径中,如txt文件中为文件路径的话,通常会出现如下错误:“OSError: [WinError 123] 文件名、目录名或卷标语法不正确”,不注意非法字符的话,很难解决。下面给出两种具体的解决方法,如下:1. 将要读取的文件的编码方式由“UTF-8”改为“UTF-8-sig”,示例代码如下:with open('keywords.txt',mode="r", encoding='u

2020-07-02 22:03:16 294

原创 PyTorch之利用预训练模型进行Fine-tuning教程

在Deep Learning领域,很多子领域的应用,比如一些动物识别,食物的识别等,公开的可用的数据库相对于ImageNet等数据库而言,其规模太小了,无法利用深度网络模型直接train from scratch,这时就需要把一些在大规模数据库上已经训练完成的模型拿过来,在目标数据库上直接进行Fine-tuning(微调),这个已经经过训练的模型对于目标数据集而言,只是一种相对较好的参数初始化方法...

2020-04-12 17:36:34 524

原创 win10文件夹显示需要管理员权限才能删除怎么办

win10文件夹显示需要管理员权限才能删除怎么办?解决办法如下:按下键盘上的组合键win+R,在弹出的运行对话框中输入gpedit.msc,点击确定或按下Enter键,然后按下图所示操作:将红框中的两项设置为启用即可,然后重启机器才能生效。这时再去删除文件夹可以愉快地删除啦。...

2020-04-12 15:46:34 1858

原创 关于Visio画图与GSview转换为eps格式图片问题

在使用Visio画图时,如果画的图比较大,比如超过A4纸的大小时,会显示明显的分页符,并且在将visio画图保存为图片时会显示不全。解决的方法为在Visio菜单栏中的【设计】-->【大小】可以设置合适的纸张大小,如A0等,此时保存为图片时便可以显示全部图形,具体如下图所示:在将Visio画图通过打印到文件保存为.ps格式文件之后,利用GSview将.ps文件转换为eps文件时,如果图...

2020-03-21 17:23:52 573

原创 Learning to Compare: Relation Network for Few-Shot Learning source code

Paper下载地址:Learning to Compare: Relation Network for Few-Shot Learning原代码是基于如下的要求实现的:# RequirementsPython 2.7Pytorch 0.3,现已经更改为支持:# RequirementsPython 3.xPytorch 1.x代码下载地址(百度云):链接:h...

2019-12-01 21:31:06 277 10

原创 PyTorch利用多GPU训练深度学习网络

PyTorch深度学习框架可以利用GPU加速网络训练,网络太深,参数太多的话,很可能在利用GPU训练网络的时候导致GPU显存不够,无法继续训练。GPU的显存大小几乎与其价格成正比,显存越大,也就越贵。但是为了利用GPU训练深度学习网络模型,可能需要大显存的显卡,比如直接买一个1080ti,显存为11G,但是也可以退而求其次,买两个1070ti,总显存为16G,似乎更划算。那么,单机多卡(一台机器配...

2019-11-28 16:18:36 814

原创 PyTorch权重初始化的几种方法

PyTorch在自定义变量及其初始化方法:self.fuse_weight_1 = torch.nn.Parameter(torch.FloatTensor(1), requires_grad=True)self.fuse_weight_1.data.fill_(0.25)如上是定义一个可学习的标量。也可以定义一个可学习的矩阵:self.fuse_weight_1 = torch...

2019-11-28 15:36:28 2442

原创 关于650w电源能否带动两个GTX 1070ti显卡

首先说一下本人的机器配置: i7 8700 + GTX AORUS小雕 1070ti,主板为技嘉 Z370 HD3,可以安装三个显卡。电源为振华Leadex G650 650w。现在想加装一个GTX AORUS小雕 1070ti显卡,组成SLI。具体记录一下加装过程遇到的问题。1. 加了一个GTX AORUS小雕 1070ti后,现在机器上有两个GTX AORUS小雕 1070ti,启动机器,...

2019-11-28 11:46:51 635

原创 PyTorch自定义激活函数和为激活函数添加可学习的参数

在深度学习框架PyTorch中已经内置了很多激活函数,如ReLU等,但是有时根据个人需要,需要自定义激活函数,甚至需要为激活函数添加可学习的参数,如PReLU,具体参见PyTorch官方激活函数源码实现。对于不需要可学习参数的激活函数的实现,比较简单,具体见PyTorch官方教程的一个例子(所用PyTorch版本为1.2):# Inherit from Functionclass Li...

2019-10-30 11:14:44 3316

原创 关于Python下空列表,空元组,空字符串,空字典的判断

在Python中,一个空列表,空元组,空字符串,空字典的布尔值为False,但是不是None,具体如下所示:如上所示,Python中判断一个列表是否为空,切不可用是否None来判断,而应该直接判断,如if a,如果a为空列表,则不成立,否则判断条件为真。如果您觉得我的文章对您有所帮助,欢迎扫码进行赞赏!...

2019-09-30 19:37:26 1835

原创 在PyTorch中为可学习参数施加约束或正则项的方法

根据不同的需求,在PyTorch中有时需要为模型的可学习参数施加自定义的约束或正则项(regular term),下面具体介绍在PyTorch中为可学习参数施加约束或正则项的方法,先看一下为损失函数(Loss function)施加正则项的具体形式,如下为L2正则项:在上式中,是训练误差关于可学习参数w的函数,右边的第二项表示L2正则项。在PyTorch中L2正则项是默认内置实现的,其中的...

2019-08-22 16:15:42 2066 1

原创 Multiplication in PyTorch

1. Element-wise Multiplication*torch.Tensor.mul()torch.mul()2. Matrix Multiplicationtorch.Tensor.matmul()torch.matmul()torch.Tensor.mm()torch.mm()3. Batch Matrix Multiplicationto...

2019-07-17 17:14:50 1109

原创 通道随机混合操作(Channel Shuffle Operation)

通道随机混合操作(Channel Shuffle Operation)可以看成“重塑-转置-重塑”(“reshapetranspose-reshape”)操作。这里假设把4个Feature Maps级联后,共1024个Channels。现在我们想把这个1024个Channels随机打乱混合。首先把Channels重塑为(g, c),其中 g 表示分组数目,c=1024/g。然后把它转置一下为(...

2019-07-17 16:38:04 3593

转载 PyTorch Cookbook(常用代码段整理合集)

本文代码基于PyTorch 1.0版本,需要用到以下包import collectionsimport osimport shutilimport tqdmimport numpy as npimport PIL.Imageimport torchimport torchvision1 基础配置1-1 检查PyTorch版本torch.__version__ ...

2019-06-05 20:26:26 502

原创 关于LaTex下插入的图片排列问题及图片与文本排列问题

\begin{figure*}[tb] \centering \setlength{\abovecaptionskip}{0pt} \setlength{\belowcaptionskip}{0pt} \subfigure[show Fig.1]{\label{subfig:Fig.1} \begin{minipage}[t]{0.4\linewidth} \centering...

2019-06-03 20:31:48 3323 1

原创 关于Matlab中画图任意调整Markers距离的问题

在写论文时,曲线图有需添加Markers以使曲线更具有区分度,主要考虑到文章在打印出来时,单纯靠颜色无法区分,这就是为曲线添加Markers的意义。可是,在利用Matlab的plot等函数在为曲线添加Markers时导致Markers之间的距离过近,导致Markers太过密集,曲线图之间的Gap也显得拥挤。如下图所示:x = linspace(0,10,25);y = x.^2;p = ...

2019-04-29 15:29:25 3512

原创 深度学习中常用的特征归一化方法

在深度学习中,特征的归一化起到至关重要的作用,甚至比本身所提出的方法更重要。比如相关滤波(Correlation Filters)的输出结果,协方差矩阵等,若不经过合适的归一化方法,其作为特征表示的最终结果(Performance)将会很差。下面介绍在深度学习中常用的特征归一化(Normalized Features)方法如下:按照大类划分的话可大致分为如下两类:1. Soft Nor...

2019-04-29 10:59:00 1651

原创 关于LaTex中Visio和Matlab图片的处理

首先说一下所使用的LaTex环境和LaTex编译器:texlive2018+TexStudio2018。关于这两个软件的安装,请参考:windows 下TexLive2018的安装和配置。LaTex环境交代完毕后开始介绍在写Paper时需要插入的图片的两种格式(但不限于此两种,只是本人目前仅用到了这两种):pdf 和 eps。其中用到的pdf图片是由Visio画图,保存为pdf格式的,用到的e...

2019-04-28 10:35:18 1116

原创 小白组装电脑详细教程

为了跑深度学习,自己年后动手组装了一台台式机,这里详细记录组装的过程和遇到的问题及解决方案。首先是主要配件的购买。西面是组装电脑需要购买的几大组件,如下表所示:上述组件根据目前的市场价格会有所浮动,风扇集线器买了两个,一个即可,航嘉MVP2只能安装5个风扇,多余了一个风扇。下面是具体的组装过程:1. 打开主板CPU套装后,把CPU安装到主板即可,安装CPU时有箭头指示安装方向,将CPU...

2019-03-31 23:17:44 7789

原创 PyTorch之图像和Tensor填充

在PyTorch中可以对图像和Tensor进行填充,如常量值填充,镜像填充和复制填充等。在图像预处理阶段设置图像边界填充的方式如下:import vision.torchvision.transforms as transformsimg_to_pad = transforms.Compose([ transforms.Pad(padding=2, paddin...

2019-01-23 10:55:19 5095 1

原创 PyTorch之nn.ReLU与F.ReLU的区别

import torch.nn as nnimport torch.nn.functional as Fimport torch.nn as nnclass AlexNet_1(nn.Module): def __init__(self, num_classes=n): super(AlexNet, self).__init__() self.f...

2019-01-22 22:08:26 30989 8

原创 CUDA error (3): initialization error (multiprocessing)

在使用PyTorch框架搭建完网络,训练时出现CUDA error (3): initialization error (multiprocessing)错误,此类错误(若确定网络搭建没问题的话)多半是因为有其它并行程序正在运行,占用,导致在运行PyTorch程序时无法启动多线程,导致报错。本人遇到此错误是因为在运行Matlab程序(parfor循环),启动多线程,Matlab程序运行完毕后而...

2019-01-04 11:11:20 2918

转载 The difference between Softmax and Softmax-Loss

转载来源:The difference between Softmax and Softmax-LossThe softmax loss layer computes the multinomial logistic loss of the softmax of its inputs. It’s conceptually identical to a softmax layer followe...

2018-11-30 09:26:03 758 1

原创 PyTorch之前向传播函数forward

神经网络的典型处理如下所示:1. 定义可学习参数的网络结构(堆叠各层和层的设计);2. 数据集输入;3. 对输入进行处理(由定义的网络层进行处理),主要体现在网络的前向传播;4. 计算loss ,由Loss层计算;5. 反向传播求梯度;6. 根据梯度改变参数值,最简单的实现方式(SGD)为: weight = weight - learning_rate * gradient...

2018-11-14 11:37:40 44031 11

原创 Python之np.squeeze()

import matplotlib.pyplot as pltimport numpy as npx = np.linspace(0, 100, 50)y = np.random.randn(1, 50)plt.plot(x, y)如上代码报错为:“ValueError: x and y must have same first dimension, but have shapes...

2018-11-14 09:23:08 3904

原创 Keras之自定义损失(loss)函数

在Keras中可以自定义损失函数,在自定义损失函数的过程中需要注意的一点是,损失函数的参数形式,这一点在Keras中是固定的,须如下形式:def my_loss(y_true, y_pred):# y_true: True labels. TensorFlow/Theano tensor# y_pred: Predictions. TensorFlow/Theano tensor of...

2018-11-13 16:13:49 5102 3

原创 深度学习框架之Keras

一. Keras网络结构二. Keras网络配置三. Keras预处理功能  参考来源:1. Keras 学习之旅(一)

2018-11-13 15:55:49 1515

原创 Keras之fit_generator与train_on_batch

关于Keras中,当数据比较大时,不能全部载入内存,在训练的时候就需要利用train_on_batch或fit_generator进行训练了。两者均是利用生成器,每次载入一个batch-size的数据进行训练。那么fit_generator与train_on_batch该用哪一个呢?train_on_batch(self, x, y, class_weight=None, sample_wei...

2018-11-13 15:35:44 13203 2

原创 Keras之model.compile与train_on_batch和TensorBoard for train_on_batch

在利用TensorFlow的TensorBoard对train_on_batch的输出进行画图时发现了一些问题。下面对train_on_batch的输出进行讲解。在讲解train_on_batch之前,先看一下Keras的model.compile函数。下面利用Keras版Faster R-CNN代码进行讲解。示例代码如下:# define the RPN, built on the bas...

2018-11-10 17:40:12 8663 11

原创 you must feed a value for placeholder tensor 'input_2' with dtype float and shape [?,?,6]

如下代码:from keras.layers import Inputfrom keras.models import Model...img_input = Input(shape=input_shape_img)roi_input = Input(shape=(None, 6))...model_classifier = Model([img_input, roi_i...

2018-11-06 15:54:42 4340

原创 Keras中的Sequential与PyTorch中的Sequential对比

深度学习库Keras中的Sequential是多个网络层的线性堆叠,在实现AlexNet与VGG等网络方面比较容易,因为它们没有ResNet那样的shortcut连接。在Keras中要实现ResNet网络则需要Model模型。下面是Keras的Sequential具体示例:可以通过向Sequential模型传递一个layer的list来构造该模型:from keras.models im...

2018-10-31 15:43:40 2242

原创 关于Numpy中的ZeroDivisionError

在Numpy中关于计算式中除数为零或被除数为零给出的错误提示有些有误导性,下面是关于在np.log中关于表达式中除数为零或被除数为零给出的错误提示,如下:由上可以看出,在np.log中当被除数为零时,给出的错误提示为“RuntimeWarning: divide by zero encountered in log”,而当除数为零时,给出的错误提示为“ZeroDivisionError: ...

2018-10-30 10:22:44 3125 1

翻译 理解交叉熵作为损失函数在神经网络中的作用

转载来源:理解交叉熵作为损失函数在神经网络中的作用通过神经网络解决多分类问题时,最常用的一种方式就是在最后一层设置n个输出节点,无论在浅层神经网络还是在CNN中都是如此,比如,在AlexNet中最后的输出层有1000个节点:而即便是ResNet取消了全连接层,也会在最后有一个1000个节点的输出层:一般情况下,最后一个输出层的节点个数与分类任务的目标数相等。假设最后的节点数为N...

2018-10-26 11:05:27 859

原创 用于医学图像分割的U-Net网络解读

U-Net原文:U-Net: Convolutional Networks for Biomedical Image SegmentationTensorFlow实现:jakeret/tf_unet 

2018-10-24 21:05:05 2234

原创 Boost::Python的安装与调用教程

Boost::Python库是pyhon和c++相互交互的框架,可以在Python中调用C++的类和方法,也可以让C++调用Python的类和方法。Python自身提供了一个Python/C++ API用来实现Python和C++的交互。Boost::Python是Python/C++ API的包装,所以用起来更简单一些。Python对一个动态类型的语言,C++是一个静态类型的语言,对于P...

2018-10-18 11:51:28 12577

原创 No OpKernel was registered to support Op 'Resampler' with these attrs

在TensorFlow环境下编程,当调用一个函数tf.contrib.resampler.resampler时,在进行model.compile时,正常,没出现什么错误。但是在进行model.fit时出现如下错误:{InvalidArgumentError}No OpKernel was registered to support Op 'Resampler' with these attrs...

2018-09-30 21:11:06 5979 6

原创 推导 | SVM详解(1)SVM基本型

发现一篇对SVM讲解较好的博文,从SVM的基本原理到凸二次规划问题,再到约束优化问题到拉格朗日乘子的非约束优化问题,再到主问题与对偶问题的转化,讲解清楚,娓娓道来,博主链接,博文链接。建议再看一下Stanford CS229 Machine Learning的教学资料,是关于SVM的,有相关code。...

2018-09-22 11:19:19 798

原创 Win7下卸载VS2015

在Windows下强制,彻底干净的卸载VS2015,有一款软件,针对无法卸载VS2015的问题。该软件可到Microsoft/VisualStudioUninstaller下载,解压,以管理员身份运行Setup.ForcedUninstall.exe,即可自动卸载电脑上安装的VS产品,比如VS2013与VS2015共存的话,它会把两者全部卸载,而不能卸载一个保留一个。具体如下图所示:如...

2018-08-14 09:56:50 2439 2

原创 Keras code and weights files for popular deep learning models

Keras code and weights files for popular deep learning models,关于Keras库的一些常用的流行的深度学习模型主要来自fchollet在其github上release的models,支持tf_dim_ordering_tf_kernels与th_dim_ordering_th_kernels,同时支持的models weights有inc...

2018-08-09 20:28:49 750

LearningToCompare_FSL.rar

Learning to Compare: Relation Network for Few-Shot Learning论文代码,支持python 3.x与PyTorch 1.x

2019-12-01

Think Python-英文原版-高清

Think Python-英文原版-高清

2017-11-02

Professional Visual Studio 2013.pdf+VS2015 CookBook.pdf英文原版-高清

Professional Visual Studio 2013.pdf+VS2015 CookBook.pdf英文原版-高清

2017-10-30

Parallel Computing Toolbox User's Guide并行计算编程手册2017官方版

Parallel Computing Toolbox User's Guide并行计算编程手册2017官方版

2017-10-19

RBM受限玻尔兹曼机

RBM受限玻尔兹曼机-An Introduction to Restricted Boltzmann Machines.pdf与受限波尔兹曼机_张春霞.pdf两篇文档,两者结合起来看,理解的更深刻。

2017-10-10

矩阵分析(第三版 史荣昌)-高清版

矩阵分析(第三版 史荣昌)-高清版

2017-09-20

并发的艺术

并发的艺术

2017-08-25

面向对象分析与设计(第3版)

面向对象分析与设计(第3版)

2017-08-22

Neural Networks_ Tricks of the Trade_ Second Edition

Neural Networks_ Tricks of the Trade_ Second Edition

2017-08-18

OpenCV with Python By Example

OpenCV with Python By Example

2017-08-18

Computer Vision System Toolbox Matlab官方家教程2017版

Computer Vision System Toolbox Matlab官方家教程2017版

2017-08-16

Matlab统计与机器学习教程2017官方版

Matlab统计与机器学习教程2017官方版

2017-08-16

Matlab图像处理教程2017官方版

Matlab图像处理教程2017官方版

2017-08-16

Matlab信号处理教程2017官方版

Matlab信号处理教程2017官方版

2017-08-16

Matlab可视化编程官方教程2017版

Matlab可视化编程官方教程2017版

2017-08-16

Matlab导入导出数据官方教程2017版英文版

Matlab导入导出数据官方教程2017版

2017-08-16

Matlab界面GUI编程官方教程2017版

Matlab界面GUI编程官方教程2017版

2017-08-16

Matlab/C++ API Reference官方教程2017版

Matlab/C++ API Reference官方教程2017版

2017-08-16

[神经网络设计].(美国)Hagan.清晰中文版

[神经网络设计].(美国)Hagan.清晰中文版

2017-08-16

keras1.0中文文档_带中文书签

keras1.0中文文档_带中文书签

2017-08-16

数字图像处理(冈萨雷斯)(matlab版)

数字图像处理(冈萨雷斯)(matlab版)

2017-08-16

TensorFlow Machine Learning Cookbook【2017,完美PDF】

TensorFlow Machine Learning Cookbook【2017,完美PDF】

2017-08-16

TensorFlow for Machine Intelligence(2016.07).A4

TensorFlow for Machine Intelligence(2016.07).A4

2017-08-16

[Linux企业应用案例精解].李晨光

[Linux企业应用案例精解].李晨光

2017-08-15

Shell脚本学习指南 中文PDF版

Shell脚本学习指南 中文PDF版

2017-08-15

算法导论英文原版

算法导论英文原版

2017-08-15

程序是怎样跑起来的_PDF电子书下载 带书签目录 高清完整版

程序是怎样跑起来的_PDF电子书下载 带书签目录 高清完整版

2017-08-15

Linux+命令行和shell脚本编程宝典

Linux+命令行和shell脚本编程宝典

2017-08-14

高级Bash脚本编程指南(advance_bash_script_progaming_guide)

高级Bash脚本编程指南(advance_bash_script_progaming_guide)

2017-08-14

Linux Shell脚本攻略(第2版)

Linux Shell脚本攻略(第2版)

2017-08-14

UNIX环境高级编程中文版

UNIX环境高级编程中文版

2017-08-14

模式识别与机器学习PRML_马春鹏

模式识别与机器学习PRML_马春鹏

2017-08-14

C++11:C++11新特性解析与应用

C++11:C++11新特性解析与应用

2017-08-14

深入理解C++11新特性解析与应用_人鱼版

深入理解C++11新特性解析与应用_人鱼版

2017-08-14

C++ Qt设计模式(第2版)

C++ Qt设计模式(第2版)

2017-08-14

Qt及Qt Quick开发实战精解

Qt及Qt Quick开发实战精解

2017-08-14

HMM讲解含数学之美

HMM讲解,其中吴军的数学之美亦有相关讲解,此资料已包含

2017-08-14

浪潮之巅第三版下册

浪潮之巅第三版下册

2017-08-14

Docker从入门到实践

<<Docker从入门到实践>>为Docker社区推荐入门教材

2017-08-14

华为大数据应用开发指南

华为大数据应用开发指南

2017-08-13

鹊踏枝-码农的留言板

发表于 2020-01-02 最后回复 2020-01-02

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人 TA的粉丝

提示
确定要删除当前文章?
取消 删除