![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
月落乌啼silence
不积跬步,无以至千里
展开
-
深度学习中nEpoch , iteration , batchSize代表什么
在深度学习中,经常要设置以下几个数据:nEpoch , iteration , batchSIze:batchSize 代表在做随机梯度下降时,使用批梯度的数量,即每次使用batchSize个数据来更新参数。1个iteration等于使用batchSize个样本训练一次1个nEpoch等于使用所有样本训练一次举个例子,训练集有1000个样本,batchsize=10,那么:原创 2017-03-17 21:53:54 · 5629 阅读 · 0 评论 -
PSPNet: Pyramid Scene Parsing Network
PSPNet在分割中取得了非常不错的效果。 文章地址:PSPNetRelated work在神经网络的驱动下,像场景解析和语义分割这种像素级的预测都取得了很好的效果。像素级的预测主要分为两个主线:1、multi-scale feature ensembling 多尺度特征融合。因为在深度神经网络中,higher-layer包含更多的语义信息,较少的位置信息。多个尺度的特征融合有助于提高模型的效果。原创 2018-04-10 16:12:14 · 8535 阅读 · 1 评论 -
libtiff简单总结
又用libtiff读取图片,这个包里面主要用到的就是TIFF和TIFF3D这两个包,之前用的时候在python3上总是报错,然后用python2来读取tif文件是没问题的。今天又用来读取文件,始终不能读入,报错如下:,然后又用opencv来读取文件,但是opencv根本就读不进来,查看文件大小的时候,直接报'Nonetype'。所以就很难搞了,最后想要不先把文件转换一下吧,用Imagemagi...原创 2018-06-23 10:47:50 · 10275 阅读 · 0 评论 -
边缘检测
一、Canny边缘检测 1、高斯滤波 在LOG中,也使用了高斯滤波,目的是去除图像中的噪声,因为噪声也是高频信号,很容易被认为成伪边缘。因此在进行边缘检测之前先对图像进行高斯滤波。 2、计算梯度幅值和方向 图像的边缘可以指向不同方向,因此经典Canny算法用了四个梯度算子来分别计算水平,垂直和对角线方向的梯度。但是通常都不用四个梯度算...原创 2018-08-11 10:42:20 · 20382 阅读 · 0 评论 -
推荐算法-FM(Factorization Machine)
FMFM出现的原因FM的求解参考FM出现的原因 FM是推荐系统中重要的方法,也有许多基于FM的变种。 FM的出现主要是为了解决线性模型的特征之间无法进行组合的问题。在LR模型中,特征之间都是独立存在的,无法体现特征之间的联系。比如有的女生喜欢化妆品,男生喜欢运动产品。单纯的使用w1∗x1+w2∗x2+..+wi∗xiw_{1}*x_{1}+w_{2}*x_{2}+..+w_{i}*x_{...原创 2019-04-28 22:16:14 · 3514 阅读 · 0 评论 -
推荐算法-DeepFM
推荐算法-DeepFM一、DeepFM出现的原因 在FM中,采用了一阶和二阶的特征组合,相比与只使用一阶线性组合效果要好很多。但是特征组合的能力还是有限的。即特征之间组合的力度,挖掘特征之间的关联性还是较差的。在图像处理的一些方法中,模型的深度都比较深经过了很多层的非线性变换,主要的目的是为了让模型充分的学习数据的分布以及更加抽象的表示,也就是希望利用高阶的特征。在模型的深层部分得到的特征就...原创 2019-04-30 13:38:14 · 4399 阅读 · 0 评论 -
推荐算法-Deep & Cross Network
推荐算法Deep & Cross Network 这篇文章是谷歌在2017年的一篇文章,是用在广告点击率预估上面的。从文章题目上来看,应该是包含两大块,Cross和Deep两个部分。原因应该很简单,还是在特征的组合上做文章。但是看完这篇文章之后,感觉很清爽,就是思路比较简单,而且实现起来也很方便。一、Deep & Cross Network出现的原因 前面提到了FM和De...原创 2019-05-01 14:22:25 · 2778 阅读 · 2 评论 -
推荐算法-PNN(Product Network)
推荐算法-PNN 这篇文章出自上海交大,针对直接把Embedding之后的特征输入到神经网络中进行计算对特征的交叉组合不充分而提出来的。也是对特征的组合做文章的一种方法。PNN网络结构 模型结构如下图所示:可以看出模型也是实现CTR预估任务,输入数据是对特征进行one-hot编码之后特征,然后经过一个embedding层,将输入特征映射到相同长度的特征得到上图中的embedding层...原创 2019-05-17 14:54:33 · 17791 阅读 · 2 评论 -
推荐算法-NFM
推荐算法-NFM FM对于特征的组合仅限于二阶,缺少对特征之间深层次关系的抽取。因此,NFM提出来就是在FM的基础上引入神经网络,实现对特征的深层次抽取。NFM的模型结构图如下所示: 模型的结构如上图所示,首先输入就是离散化的特征,然后再进行embedding操作,获得每一个特征的向量表示。接着就到了Bi-interaction Pooling层,这里其实就是FM部分。FM的公式如下图所...原创 2019-05-22 10:45:15 · 4617 阅读 · 1 评论 -
DeepLabv3:《Rethinking Atrous Convolution for Semantic Image Segmentataion》
论文地址:https://arxiv.org/abs/1706.05587Abstract 在这篇文章中,我们重温了atrous convolution(带孔卷积),它可以很好的调整过滤器的感受野以及控制输出feature map的分辨率。为了解决分割中物体的多尺度,我们设计了带孔卷积的串行和并行模块来获取多尺度信息通过多个atrous rate(采样率)。另外,我们建议增加之前提出的A...原创 2018-03-12 17:07:42 · 4765 阅读 · 0 评论 -
《Understanding Convolution for Semantic Segmentation》
Understanding Convolution for Semantic SegmentationAbstract 首先,我们设计了密集卷积上采样(dense upssampling convolution DUC)可以获得像素级别的上采样,DUC可以获取并解码一些细节信息,这些细节信息是双线性插值上采样不能获取的。第二,在编码部分我们提出了混合空洞卷积(Hybrid dilate...原创 2018-03-15 20:07:42 · 3111 阅读 · 0 评论 -
Deeplearning4j例程(二) 加载本地模型预测未知图像
项目需要,先train好模型,存至本地。在项目中需要预测用户上传的图像是什么。此过程就应用到了加载本地模型,然后预测用户上传的图像,反馈会结果。 一、将模型存至本地: //save model File locationToSave = new File("/home/greg/LungCNNModel.zip"); boolean sav原创 2017-03-20 20:55:02 · 3271 阅读 · 1 评论 -
Keras <一> 可视化model
近期在试验中用到keras,想要将模型可视化,查看每一层的节点个数,需要安装几个软件: 第一个:graphviz sudo pip3 install graphviz 即可第二个:pydot网上说的安装pydot的方法五花八门,有一种是 pip install pydot==1.1.0 这种方法是针对python2可以,但是python3就不行了,因为Python3安原创 2017-04-08 15:03:37 · 4447 阅读 · 0 评论 -
deeplearning4j例程(一) CSVExample
这个例程比较简单,写这篇博客主要时为了做一些简单的记录,以防止后面遇到浪费不必要的时间。这个例程包含读入CSV数据,对数据进行归一化处理,然后创建简单的神经网络,训练然后预测。 package org.deeplearning4j.examples.dataExamples;import org.datavec.api.records.reader.RecordReader;i原创 2017-03-15 14:42:14 · 1906 阅读 · 0 评论 -
深度学习调参总结
2017-07-15 一、acc、val_acc停留在一个值附近,上下震荡 今天早上来到实验室 ,看了看昨天跑得结果,很好啊,acc、val_acc同步上升,基本没有甚麽偏差。心中一喜,可是acc还没有超过50%,虽然说在同步上升,但是没有任何卵用。想把程序停下来,但是看着它一会越过50%,一会跌落50%。简直就是就挑逗我,如果我要等,它肯定是会越过50%,但是是一个时间问题,原创 2017-07-15 10:58:14 · 2577 阅读 · 0 评论 -
A Deep Learning-Based Segmentation Method for Brain Tumor in MR Images-阅读笔记
2017-07-08-A Deep Learning-Based Segmentation Method for Brain Tumor in MR Images-阅读笔记Abstract当前非常需要一个能准确的分割肿瘤的系统,文中采用SDAE的网络结构(DAE是由Bengio在08年提出的),为了提高网络的鲁棒性,在网络的输入层引入噪声。意思是使用被破坏的输入数据可以重构出原始数据,原创 2017-07-08 20:58:06 · 671 阅读 · 0 评论 -
U-net使用, 图像分割(边缘检测)
U-Net: Convolutional Networks for Biomedical Image Segmentation 通过阅读这篇论文了解到在医学图像领域还是有这样一个网络存在, 它是用于获得图像的边缘. 文中说是FCN的延伸, 原谅我的孤陋寡闻,还没有阅读到FCN的原文, 唉,一个人搞这方面的太孤独了,连获得信息的途径都没有,希望广大网友指教,再次谢谢. U-net原创 2017-05-17 20:29:15 · 68468 阅读 · 69 评论 -
画pytorch模型图,以及参数计算
刚入pytorch的坑,代码还没看太懂。之前用keras用习惯了,第一次使用pytorch还有些不适应,希望广大老司机多多指教。 首先说说,我们如何可视化模型。在keras中就一句话,keras.summary(),或者plot_model(),就可以把模型展现的淋漓尽致。但是pytorch中好像没有这样一个api让我们直观的看到模型的样子。但是有网友提供了一段代码,可以把模型画出来原创 2018-01-12 20:38:09 · 21004 阅读 · 3 评论 -
《ImageNet Classification with Deep Convolutional Neural Network》
本篇论文是在ImageNet上大放异彩,将CNN应用于cv大舞台,论文的作者是Alex Krizhevsky,来自加拿大多伦多大学Hinton组,所以论文中的模型又叫AlexNet。概述 ImageNet数据集共有150万张图片,分为22000个类别。Image Large-Scale Visual Recognition Competition(ILSVRC-2010)和ILSVR...原创 2018-03-06 22:32:10 · 3391 阅读 · 0 评论 -
推荐算法-AFM
推荐算法-AFM 推荐算法-AFM,这篇文章也是在FM的基础上做工作。这篇文章是针对特征之间组合时,不同的特征都是用同样的向量去做。即每一个特征和其它的特征进行组合时,都是采用同一个向量,缺乏不同特征之间的关联性不同,应该采用不同的向量。解决这个问题的一个思路就是FFM,即每一个特征针对每一个的field生成一个特征向量,即在进行特征组合时,采用不同的向量表示去做。本文是解决这个问题的另一种思...原创 2019-05-24 10:07:42 · 3739 阅读 · 4 评论