![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
四月的友人
这个作者很懒,什么都没留下…
展开
-
P NP NP-hard
P问题:一个问题可以在多项式的时间复杂度内O(n^k)解决NP问题:一个问题的解可以在多项式的时间复杂度内验证。NP-hard问题:任意np问题都可以在多项式时间内归约为该问题,但该问题本身不一定是NP问题。归约的意思是为了解决问题A,先将问题A归约为另一个问题B,解决问题B同时也间接解决了问题A。NPC问题:既是NP问题,也是NP-hard问题。说了好像没说,~~~~留坑...原创 2019-10-24 15:47:04 · 214 阅读 · 0 评论 -
无监督学习
无监督学习方法及其在深度学习中的应用常用的无监督学习算法主要有主成分分析方法 PCA等, 等距映射方法、局部线性嵌入方法、拉普拉斯特征映射方法、黑塞局部线性嵌入方法和局部切空间排列方法从原理上来说 PCA 等数据降维算法同样适用于深度学习, 但是这些数据降维方法复杂度较高, 并且其算法的目标太明确, 使得抽象后的低维数据中没有次要信息, 而这些次要信息可能在更高层看来是区分数据的...原创 2019-10-23 09:15:25 · 364 阅读 · 0 评论 -
语义分割中常用的两种损失函数
cross-entropy 交叉熵信息量信息量个人理解是指验证信息发生所需要的信息多少,所以一个事件发生的概率越大,它的信息量越小。例如以下事件:A : 明早太阳东边升起B : 明早太阳西边升起我们可以知道事件B直观上给我们的信息量很爆炸,我们验证B发生需要的知识,条件比较多。对于一个小概率事件,它的发生往往给人带来爆炸的信息,我们称它的信息量大。记作:熵的概念熵是指信...原创 2019-10-17 15:41:23 · 7067 阅读 · 2 评论 -
Numpy中的axis(转自知乎)
原地址:https://zhuanlan.zhihu.com/p/31275071转载 2019-10-16 22:11:28 · 158 阅读 · 0 评论 -
cs231n knn的实现方法
我之前做cs231n看到的网上的解题过程,记录一下。原作者忘记是谁了import numpy as npclass KNearestneighbor: def __init__(self): pass def train(self,X,y): self.x_train = X slef.y_train = y def predict(self,X,K=1,num_loops ...原创 2019-10-13 22:18:15 · 247 阅读 · 0 评论 -
DeconvNet
Learning Deconvolution Network for Semantic SegmentationDeconvNet的提出是受到了VGG16和FCN影响的。论文中提出了FCN的一些缺点:基于FCN网络的几个限制:(1)网络的感受野尺寸是预先固定。因此,对于输入图片中比感受野大或者小的物体可能会被忽略。换言之,对于较大的物体,只有局部的细节信息能够被正确标记,或者标记的结果是...原创 2019-08-18 15:18:57 · 2965 阅读 · 0 评论 -
ResNet
昨天组会分享的一篇论文:原创 2019-09-02 09:27:30 · 109 阅读 · 0 评论 -
Error xml.etree.ElementTree.ParseError: mismatched tag: line 2, column 26
今天作项目时候遇到了XML文件报错,提示不匹配的tag,后在windows环境下发现是编码问题,出现了中文路径。重新打标签发现问题解决。原创 2019-09-14 10:08:53 · 6719 阅读 · 1 评论 -
关于reshape的问题
一个5 x 3 x 3的 数组 ,形如我们想要 1 9 8 0 8出现在同一行采用的方法为reshape((9,5))permute((2,1))而不是reshape((5,9))原因在于reshape时操作是将其拉成一个一维数组,然后按行分配。reshape((5,9))的结果reshape((9,5)):关于conv的输出问题:今天打印输出之后发现conv输出的sh...原创 2019-09-17 11:53:30 · 646 阅读 · 0 评论 -
FCN:全卷积神经网络
第一篇成功使用深度学习作图像语义分割的论文,使得网络可以接受任意大小的图片并输出和原图一样大小的分割图。实现的过程从分类的CNN到用于dense prediction典型的分类网络,采用固定尺寸的输入产生了非空间的输出。这些网络的全连接层有确定的位数并丢弃空间坐标,也被看作是覆盖全部输入域的核卷积。如上图正确识别图片中的猫为tabby cat ,不需要将猫轮廓识别出来,只需要一个概率值。...原创 2019-08-18 12:55:48 · 401 阅读 · 0 评论 -
Very deep Convolutional Networks for Large-Scale Image Recognition
arXiv:[1409.1556] Very Deep Convolutional Networks for Large-Scale Image Recognitionintro:ICLR 2015主要收获这篇文章给我的主要收获是:作者观察到了卷积网络中77的感受野可以用3层33的卷积来代替,这样做减小参数量,便于训练。关于VGG16VGG 16中的16代表着有参数的层有16个VGG ...原创 2019-08-18 10:53:08 · 347 阅读 · 0 评论 -
常见的一些卷积模式
1,标准卷积标准卷积过程如上。对于多通道的卷积:举个例子,假设有一个3×3大小的卷积层,其输入通道为16、输出通道为32。那么一般的操作就是用32个3×3的卷积核来分别同输入数据卷积,这样每个卷积核需要3×3×16个参数,得到的输出是只有一个通道的数据。之所以会得到一通道的数据,是因为刚开始3×3×16的卷积核的每个通道会在输入数据的每个对应通道上做卷积,然后叠加每一个通道对应位置的值,使之...原创 2019-08-18 10:15:40 · 608 阅读 · 0 评论 -
Segnet:A deep Convolutional Encoder-Decoder Architecture for Image Segmentation
Segnet主要目的是应用于场景理解应用,主要是内存和效率上的权衡。和DeconvNet结构很大相似性编码网络(encoder network):由13个卷积层组成(使用的时预训练的VGG16的前13层),该部分提取输入特征,用于目标分类,这就是使用预训练的VGG原理所在,至于丢弃FC层是为了保持更高的分辨率,同时也减少了参数。解码网络(decoder network):每个encoder会...原创 2019-08-18 16:08:23 · 555 阅读 · 0 评论 -
ENet: A Deep Neural Network Architecture for Real-Time Semantic Segmentation
在移动应用中,实时执行像素级语义分割的能力是至关重要的.针对这一任务的最近的深层神经网络存在着重复使用的缺点。**深度神经网络有大量浮点操作,且运行时间长,阻碍了它们的可用性**.本文提出了一种新的深层神经网络体系结构-高效神经网络(ENET)。相比于现有的模型,在速度加快了18×倍,浮点计算量上减少了75×,参数减少了79×,且有相似的精度。ENet在CamVid, Cityscapes and SUN datasets做了相关对比测试。原创 2019-08-19 10:23:04 · 568 阅读 · 0 评论 -
The One Hundred Layers Tiramisu: Fully Convolutional DenseNets for Semantic Segmentation
Tensorflow代码:https://github.com/HasnainRaz/FC-DenseNet-TensorFlow原创 2019-08-19 11:12:15 · 162 阅读 · 0 评论 -
(DenseNet)Densely Connected Convolutional Networks
文章从一个新的角度去提高卷积神经网络效果,之前两种方案一种是加深网络,ResNet使得这一方向更加可行(解决了梯度消失)一种是增加网络的宽度,增加神经元的数量。paper作者采用了另一种方案,通过对特征的深刻利用来提升效果,并且使得参数更少原创 2019-08-19 15:27:32 · 416 阅读 · 0 评论 -
LinkNet:Exploiting Encoder Representations for Efficient Semantic Segmentation(CVPR2017)
源文网址:https://arxiv.org/abs/1707.03718Abstract像素化的视觉场景语义分割不仅要准确,而且要高效,才能在实时应用中得到应用。现有算法虽然它们都是精确的,但并没有把重点放在有效地利用神经网络的参数上。因此,它们在参数和操作数量方面都很庞大,因此速度也很慢。在这里本文提出了一种新的深度神经网络结构,使其能够在不增加参数的情况下进行学习。paper 贡献不...原创 2019-08-19 16:13:20 · 347 阅读 · 0 评论 -
UNet&&VNet
Unet论文地址:https://arxiv.org/abs/1505.04597Vnet论文地址:http://campar.in.tum.de/pub/milletari2016Vnet/milletari2016Vnet.pdfUNet被广泛应用于医学图像处理,encoder下采样4次,一共下采样16倍,对称地,其decoder也相应上采样4次,将encoder得到的高级语义特征图恢复...原创 2019-08-21 23:11:50 · 2703 阅读 · 0 评论 -
ALexNet:ImageNet Classification with Deep Convolutional Neural Networks
本文具体的贡献如下:我们在ILSVRC-2010和ILSVRC-2012[2]的ImageNet子集上训练了到目前为止最大的神经网络之一,并取得了迄今为止在这些数据集上报道过的最好结果。编写了高度优化的2D卷积GPU实现以及训练卷积神经网络内部的所有其它操作,我们把它公开了。网络包含许多新的不寻常的特性,这些特性提高了神经网络的性能并减少了训练时间。即使使用了120万标注的训练样本,我们的网络尺寸仍然使过拟合成为一个明显的问题,因此我们使用了一些有效的技术来防止过拟合,原创 2019-08-22 10:05:08 · 120 阅读 · 0 评论 -
MNIST机器学习入门
原始的MNIST数据集包含以下4个文件:分别是测试图像数据,测试图像的标签,训练图像数据,训练图像的标签。训练图像一共有60000张,测试图像一共有10000张。可以采用如下代码下载from tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets("MNIST_dat...原创 2019-07-09 11:18:31 · 125 阅读 · 0 评论