- 博客(8)
- 收藏
- 关注
RSS订阅翻译 Delving Deep into Rectifiers-权值初始化 部分翻译
本文仅用于学习记录，以下内容均为学习过程中，翻译记录所得，由于从word复制过来，公式出错，所以请结合原论文公式看。相比较于传统的sigmoid激活函数的网络，修正网络更容易去训练。但是一个不好的初始化可能在高度非线性的系统中阻碍学习。在本节，我们提出了一个强壮的初始化方法，为训练非常深的rectifier networks扫清障碍。 最近的深度卷积网络大多通过随机符合高斯...
2018-12-20 10:35:01
441
翻译 Network In Network - Global Average Pooling部分翻译
本文仅用作学习记录，一下内容均为自己边学习边翻译记录所得。Global Average Pooling： 传统的卷积神经网络会在较低层执行卷积操作。对于用来的分类网络来说，将最后一层卷积的feature map向量化，然后送入全连接层，最后就是一个softmax 的logistic层。这样的结构将卷积结构和传统的神经网络分类器连接了起来。他将卷积层看作是一个特征提取器，并用...
2018-12-20 10:31:02
225
翻译 Non-local Neural Networks 论文翻译
本文为自己学习时，理解后的翻译，仅用作记录学习，若有侵权，联系我删除，由于直接从word复制过来，公式出现错误，学习时可与原论文一起看。卷积和递归运算都是在空间或时间上处理一个局部领域的信息，所以，长期依赖关系只有重复应用这些操作的时候，数据的逐步传播，才能被捕捉到。重复局部操作会有几个限制：它的计算效率很低 网络的优化困难 基于以上两点，它使得建立多联系的模型变得困难（在离得较远...
2018-12-20 10:27:29
2958
原创 Non-local means的理解
首先对于图像，我们设，其中是观察值，是真实值，是像素点的噪声扰动，和独立同分布。虽然不同的去除噪声的方法都在强调他们之间的不同，但是有一个共同点，去除噪声要通过平均实现。给你一个带噪声的图像 ，代表点的位置，代表图像中各个点位置的集合，代表位置的像素值。是权值，代表的是像素点和像素点的相似度，越相似，值越大，但是且。表示，对这个图像的第点进行non-local means ，他...
2018-12-05 15:27:32
1339
原创 Inception-v2 Batch Normalization
本文用于记录自己的学习过程，以及以前重点总结，若有错误，希望指出。Batch Normalization：通过减少 Internal Covariate Shift来加速深度网络训练0.摘要什么是Covariate Shift ? 什么是Internal Covariate Shift ?训练神经网络时，因为每一层的输入分布在训练过程中会随着前一层的参数的变化而变化。这使得在训...
2018-11-19 10:47:00
663
原创 Inception-v1 Going Deeper with Convolutions
本文用于记录自己的学习过程，以及以前重点总结，若有错误，希望指出。对卷积更深入的认识0.摘要部分：Inception结构的主要特点在网络内部提高计算机资源的利用率。在增加网络宽度和深度的同时，保持网络的预计的计算资源消耗不变，即控制运算成本。为了优化结构，架构是基于Hebbian principle 和multi-scale processing的。GoogleNet ...
2018-11-13 17:38:34
626
原创 机器学习_周志华 第三章 线性模型 学习笔记 3.3 3.4-3.6（略）
文章仅用来记录学习，若有侵权行为，联系我，将删除3.3 对数几率回归对数几率回归是线性模型在进行分类任务时的一种运用。当我们要用线性模型去进行分类任务时，我们可以根据 3.2 中所提到的广义线性模型，找到一个单调可微函数 ,将分类任务的真实标记 与线性回归模型的预测值联系起来。对于二分类的任务，输出标记 ，但我们由线性回归模型所产生的预测值 是一个实值，所以我们要办法，...
2018-10-31 14:26:42
1143
原创 机器学习_周志华 第三章 线性模型 学习笔记 3.1-3.2
3.1 线性模型的基本形式对于拥有d个属性的示例， = (), 其中xi是x的第i个属性上的取值，线性模型希望通过属性(即 , )线性组合来进行预测,即：其中 = (),通过学习，得到和之后，模型就得到确定了。中的各个属性可看作一个重要性的系数，以西瓜为例，我们通过西瓜的色泽，根蒂以及敲声来判断一个西瓜的好坏，那么，我们就可以得到：其中=(0.2,0.5,0.3),通过色...
2018-10-29 13:39:49
1242
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人