自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

原创 Python读取txt、csv等文件出现\ufeff、\u202a等非法字符解决方法

在利用Python读取txt、csv等文件时,有时会出现\ufeff、\u202a等非法字符,其若出现在解析文件路径中,如txt文件中为文件路径的话,通常会出现如下错误:“OSError: [WinError 123] 文件名、目录名或卷标语法不正确”,不注意非法字符的话,很难解决。 下面给出两...

2020-07-02 22:03:16 6 0

原创 PyTorch之利用预训练模型进行Fine-tuning教程

在Deep Learning领域,很多子领域的应用,比如一些动物识别,食物的识别等,公开的可用的数据库相对于ImageNet等数据库而言,其规模太小了,无法利用深度网络模型直接train from scratch,这时就需要把一些在大规模数据库上已经训练完成的模型拿过来,在目标数据库上直接进行Fi...

2020-04-12 17:36:34 252 0

原创 win10文件夹显示需要管理员权限才能删除怎么办

win10文件夹显示需要管理员权限才能删除怎么办?解决办法如下: 按下键盘上的组合键win+R,在弹出的运行对话框中输入gpedit.msc,点击确定或按下Enter键,然后按下图所示操作: 将红框中的两项设置为启用即可,然后重启机器才能生效。这时再去删除文件夹可以愉快地删除啦。 ...

2020-04-12 15:46:34 1168 0

原创 关于Visio画图与GSview转换为eps格式图片问题

在使用Visio画图时,如果画的图比较大,比如超过A4纸的大小时,会显示明显的分页符,并且在将visio画图保存为图片时会显示不全。解决的方法为在Visio菜单栏中的【设计】-->【大小】可以设置合适的纸张大小,如A0等,此时保存为图片时便可以显示全部图形,具体如下图所示: 在将Vis...

2020-03-21 17:23:52 258 0

原创 Learning to Compare: Relation Network for Few-Shot Learning source code

Paper下载地址:Learning to Compare: Relation Network for Few-Shot Learning 原代码是基于如下的要求实现的: # Requirements Python 2.7 Pytorch 0.3 ,现已经更改为支持: # Require...

2019-12-01 21:31:06 201 4

原创 PyTorch利用多GPU训练深度学习网络

PyTorch深度学习框架可以利用GPU加速网络训练,网络太深,参数太多的话,很可能在利用GPU训练网络的时候导致GPU显存不够,无法继续训练。GPU的显存大小几乎与其价格成正比,显存越大,也就越贵。但是为了利用GPU训练深度学习网络模型,可能需要大显存的显卡,比如直接买一个1080ti,显存为1...

2019-11-28 16:18:36 415 0

原创 PyTorch权重初始化的几种方法

PyTorch在自定义变量及其初始化方法: self.fuse_weight_1 = torch.nn.Parameter(torch.FloatTensor(1), requires_grad=True) self.fuse_weight_1.data.fill_(0.25) 如上是定义一...

2019-11-28 15:36:28 771 0

原创 关于650w电源能否带动两个GTX 1070ti显卡

首先说一下本人的机器配置: i7 8700 + GTX AORUS小雕 1070ti,主板为技嘉 Z370 HD3,可以安装三个显卡。电源为振华Leadex G650 650w。现在想加装一个GTX AORUS小雕 1070ti显卡,组成SLI。具体记录一下加装过程遇到的问题。 1. 加了一个G...

2019-11-28 11:46:51 308 0

原创 PyTorch自定义激活函数和为激活函数添加可学习的参数

在深度学习框架PyTorch中已经内置了很多激活函数,如ReLU等,但是有时根据个人需要,需要自定义激活函数,甚至需要为激活函数添加可学习的参数,如PReLU,具体参见PyTorch官方激活函数源码实现。 对于不需要可学习参数的激活函数的实现,比较简单,具体见PyTorch官方教程的一个例子(所...

2019-10-30 11:14:44 1717 0

原创 关于Python下空列表,空元组,空字符串,空字典的判断

在Python中,一个空列表,空元组,空字符串,空字典的布尔值为False,但是不是None,具体如下所示: 如上所示,Python中判断一个列表是否为空,切不可用是否None来判断,而应该直接判断,如if a,如果a为空列表,则不成立,否则判断条件为真。 如果您觉得我的文章对您有所帮...

2019-09-30 19:37:26 1238 0

原创 在PyTorch中为可学习参数施加约束或正则项的方法

根据不同的需求,在PyTorch中有时需要为模型的可学习参数施加自定义的约束或正则项(regular term),下面具体介绍在PyTorch中为可学习参数施加约束或正则项的方法,先看一下为损失函数(Loss function)施加正则项的具体形式,如下为L2正则项: 在上式中,是训练误差关...

2019-08-22 16:15:42 1201 0

原创 Multiplication in PyTorch

1. Element-wise Multiplication * torch.Tensor.mul() torch.mul() 2. Matrix Multiplication torch.Tensor.matmul() torch.matmul() torch.Tensor.mm...

2019-07-17 17:14:50 719 0

原创 通道随机混合操作(Channel Shuffle Operation)

通道随机混合操作(Channel Shuffle Operation)可以看成“重塑-转置-重塑”(“reshapetranspose- reshape”)操作。这里假设把4个Feature Maps级联后,共1024个Channels。现在我们想把这个1024个Channels随机打乱混合。首先...

2019-07-17 16:38:04 2281 0

转载 PyTorch Cookbook(常用代码段整理合集)

本文代码基于PyTorch 1.0版本,需要用到以下包 import collections import os import shutil import tqdm import numpy as np import PIL.Image import torch import torchvi...

2019-06-05 20:26:26 476 0

原创 关于LaTex下插入的图片排列问题及图片与文本排列问题

\begin{figure*}[tb] \centering \setlength{\abovecaptionskip}{0pt} \setlength{\belowcaptionskip}{0pt} \subfigure[show Fig.1]{\label{subfig:Fig.1} ...

2019-06-03 20:31:48 2088 0

原创 关于Matlab中画图任意调整Markers距离的问题

在写论文时,曲线图有需添加Markers以使曲线更具有区分度,主要考虑到文章在打印出来时,单纯靠颜色无法区分,这就是为曲线添加Markers的意义。可是,在利用Matlab的plot等函数在为曲线添加Markers时导致Markers之间的距离过近,导致Markers太过密集,曲线图之间的Gap也...

2019-04-29 15:29:25 2507 0

原创 深度学习中常用的特征归一化方法

在深度学习中,特征的归一化起到至关重要的作用,甚至比本身所提出的方法更重要。比如相关滤波(Correlation Filters)的输出结果,协方差矩阵等,若不经过合适的归一化方法,其作为特征表示的最终结果(Performance)将会很差。 下面介绍在深度学习中常用的特征归一化(Normali...

2019-04-29 10:59:00 1345 0

原创 关于LaTex中Visio和Matlab图片的处理

首先说一下所使用的LaTex环境和LaTex编译器:texlive2018+TexStudio2018。关于这两个软件的安装,请参考:windows 下TexLive2018的安装和配置。 LaTex环境交代完毕后开始介绍在写Paper时需要插入的图片的两种格式(但不限于此两种,只是本人目前仅用...

2019-04-28 10:35:18 891 0

原创 小白组装电脑详细教程

为了跑深度学习,自己年后动手组装了一台台式机,这里详细记录组装的过程和遇到的问题及解决方案。首先是主要配件的购买。西面是组装电脑需要购买的几大组件,如下表所示: 上述组件根据目前的市场价格会有所浮动,风扇集线器买了两个,一个即可,航嘉MVP2只能安装5个风扇,多余了一个风扇。下面是具体的组装...

2019-03-31 23:17:44 6939 0

原创 PyTorch之图像和Tensor填充

在PyTorch中可以对图像和Tensor进行填充,如常量值填充,镜像填充和复制填充等。在图像预处理阶段设置图像边界填充的方式如下: import vision.torchvision.transforms as transforms img_to_pad = transforms.Comp...

2019-01-23 10:55:19 3687 1

原创 PyTorch之nn.ReLU与F.ReLU的区别

import torch.nn as nn import torch.nn.functional as F import torch.nn as nn class AlexNet_1(nn.Module): def __init__(self, num_classes=n): ...

2019-01-22 22:08:26 20819 7

原创 CUDA error (3): initialization error (multiprocessing)

在使用PyTorch框架搭建完网络,训练时出现CUDA error (3): initialization error (multiprocessing)错误,此类错误(若确定网络搭建没问题的话)多半是因为有其它并行程序正在运行,占用,导致在运行PyTorch程序时无法启动多线程,导致报错。 本...

2019-01-04 11:11:20 2360 0

转载 The difference between Softmax and Softmax-Loss

转载来源:The difference between Softmax and Softmax-Loss The softmax loss layer computes the multinomial logistic loss of the softmax of its inputs. It’...

2018-11-30 09:26:03 723 1

原创 PyTorch之前向传播函数forward

神经网络的典型处理如下所示: 1. 定义可学习参数的网络结构(堆叠各层和层的设计); 2. 数据集输入; 3. 对输入进行处理(由定义的网络层进行处理),主要体现在网络的前向传播; 4. 计算loss ,由Loss层计算; 5. 反向传播求梯度; 6. 根据梯度改变参数值,最简单的实现方式(SG...

2018-11-14 11:37:40 29923 9

原创 Python之np.squeeze()

import matplotlib.pyplot as plt import numpy as np x = np.linspace(0, 100, 50) y = np.random.randn(1, 50) plt.plot(x, y) 如上代码报错为:“ValueError: x and...

2018-11-14 09:23:08 3272 0

原创 Keras之自定义损失(loss)函数

在Keras中可以自定义损失函数,在自定义损失函数的过程中需要注意的一点是,损失函数的参数形式,这一点在Keras中是固定的,须如下形式: def my_loss(y_true, y_pred): # y_true: True labels. TensorFlow/Theano tensor...

2018-11-13 16:13:49 3909 1

原创 深度学习框架之Keras

一. Keras网络结构 二. Keras网络配置 三. Keras预处理功能     参考来源: 1. Keras 学习之旅(一)

2018-11-13 15:55:49 1466 0

原创 Keras之fit_generator与train_on_batch

关于Keras中,当数据比较大时,不能全部载入内存,在训练的时候就需要利用train_on_batch或fit_generator进行训练了。两者均是利用生成器,每次载入一个batch-size的数据进行训练。那么fit_generator与train_on_batch该用哪一个呢? train...

2018-11-13 15:35:44 11525 1

原创 Keras之model.compile与train_on_batch和TensorBoard for train_on_batch

在利用TensorFlow的TensorBoard对train_on_batch的输出进行画图时发现了一些问题。下面对train_on_batch的输出进行讲解。在讲解train_on_batch之前,先看一下Keras的model.compile函数。下面利用Keras版Faster R-CNN...

2018-11-10 17:40:12 7456 11

原创 you must feed a value for placeholder tensor 'input_2' with dtype float and shape [?,?,6]

如下代码: from keras.layers import Input from keras.models import Model . . . img_input = Input(shape=input_shape_img) roi_input = Input(shape=(None, 6...

2018-11-06 15:54:42 3360 0

原创 Keras中的Sequential与PyTorch中的Sequential对比

深度学习库Keras中的Sequential是多个网络层的线性堆叠,在实现AlexNet与VGG等网络方面比较容易,因为它们没有ResNet那样的shortcut连接。在Keras中要实现ResNet网络则需要Model模型。下面是Keras的Sequential具体示例: 可以通过向Seque...

2018-10-31 15:43:40 1905 0

原创 关于Numpy中的ZeroDivisionError

在Numpy中关于计算式中除数为零或被除数为零给出的错误提示有些有误导性,下面是关于在np.log中关于表达式中除数为零或被除数为零给出的错误提示,如下: 由上可以看出,在np.log中当被除数为零时,给出的错误提示为“RuntimeWarning: divide by zero encou...

2018-10-30 10:22:44 2244 1

翻译 理解交叉熵作为损失函数在神经网络中的作用

转载来源:理解交叉熵作为损失函数在神经网络中的作用 通过神经网络解决多分类问题时,最常用的一种方式就是在最后一层设置n个输出节点,无论在浅层神经网络还是在CNN中都是如此,比如,在AlexNet中最后的输出层有1000个节点: 而即便是ResNet取消了全连接层,也会在最后有一个1000个...

2018-10-26 11:05:27 769 0

原创 用于医学图像分割的U-Net网络解读

U-Net原文:U-Net: Convolutional Networks for Biomedical Image Segmentation TensorFlow实现:jakeret/tf_unet  

2018-10-24 21:05:05 2075 0

原创 Boost::Python的安装与调用教程

Boost::Python库是pyhon和c++相互交互的框架,可以在Python中调用C++的类和方法,也可以让C++调用Python的类和方法。 Python自身提供了一个Python/C++ API用来实现Python和C++的交互。Boost::Python是Python/C++ API...

2018-10-18 11:51:28 9215 0

原创 No OpKernel was registered to support Op 'Resampler' with these attrs

在TensorFlow环境下编程,当调用一个函数tf.contrib.resampler.resampler时,在进行model.compile时,正常,没出现什么错误。但是在进行model.fit时出现如下错误: {InvalidArgumentError}No OpKernel was re...

2018-09-30 21:11:06 5236 6

原创 推导 | SVM详解(1)SVM基本型

发现一篇对SVM讲解较好的博文,从SVM的基本原理到凸二次规划问题,再到约束优化问题到拉格朗日乘子的非约束优化问题,再到主问题与对偶问题的转化,讲解清楚,娓娓道来,博主链接,博文链接。建议再看一下Stanford CS229 Machine Learning的教学资料,是关于SVM的,有相关cod...

2018-09-22 11:19:19 743 0

原创 Win7下卸载VS2015

在Windows下强制,彻底干净的卸载VS2015,有一款软件,针对无法卸载VS2015的问题。该软件可到Microsoft/VisualStudioUninstaller下载,解压,以管理员身份运行Setup.ForcedUninstall.exe,即可自动卸载电脑上安装的VS产品,比如VS20...

2018-08-14 09:56:50 2359 2

原创 Keras code and weights files for popular deep learning models

Keras code and weights files for popular deep learning models,关于Keras库的一些常用的流行的深度学习模型主要来自fchollet在其github上release的models,支持tf_dim_ordering_tf_kernels...

2018-08-09 20:28:49 740 0

原创 关于Keras的格式化输出Loss实现

在win7 64位,Anaconda安装的Python3.6.1下安装的TensorFlow与Keras,Keras的backend为TensorFlow。在运行Mask R-CNN时,在进行调试时想知道PyCharm (Python IDE)底部窗口输出的Loss格式是在哪里定义的,如下图红框中...

2018-07-17 22:12:48 6110 3

提示
确定要删除当前文章?
取消 删除