深度学习
文章平均质量分 80
LianYueBiao
请联系:it8c@163.com
展开
-
图像卷积
参考链接:http://www.cnblogs.com/freeblues/p/5738987.htmlhttp://blog.csdn.net/chaipp0607/article/details/72236892?locationNum=9&fps=1神经网络中的卷积层,它的原理就来源于图像卷积概述卷积在信号处理领域有极其广泛的应用, 也有严格的物理和数学定义. 本文只讨论卷积在数字图原创 2017-12-25 14:15:33 · 7866 阅读 · 4 评论 -
交叉熵(Cross-Entropy)
交叉熵(Cross-Entropy)交叉熵是一个在ML领域经常会被提到的名词。在这篇文章里将对这个概念进行详细的分析。1.什么是信息量?假设X的信息量为: I(x0)=−log(p(x0))时,熵将等于0,也就是说该事件的发生不会导致任何信息量的增加。举个例子,小明平时不爱学习,考试经常不及格,而小王是个勤奋学习的好学生,经常得满分,所以我们可以做如下假设: 事件A:小明考试及原创 2018-01-09 10:31:51 · 2931 阅读 · 0 评论 -
tensorflow中部分函数被修改
tensorflow中部分函数被修改截止发文tensorflow 1.1.0 for mac and 1.2 for windowsAttributeError: ‘module’ object has no attribute ‘SummaryWriter’ tf.train.SummaryWriter 改为:tf.summary.FileWriterAttributeError原创 2018-01-07 23:17:53 · 420 阅读 · 0 评论 -
矩阵求导术(下)
本文承接上篇 https://zhuanlan.zhihu.com/p/24709748,来讲矩阵对矩阵的求导术。使用小写字母x表示标量,粗体小写字母表示列向量,大写字母X表示矩阵。矩阵对矩阵的求导采用了向量化的思路,常应用于二阶方法求解优化问题。首先来琢磨一下定义。矩阵对矩阵的导数,需要什么样的定义?第一,矩阵F(p×q)对矩阵X(m×n)的导数应包含所有mnpq个偏导数,从而不损失信息;第二,导原创 2017-12-29 14:42:26 · 801 阅读 · 0 评论 -
矩阵求导术(上)
原文链接:https://zhuanlan.zhihu.com/p/24709748矩阵求导的技术,在统计学、控制论、机器学习等领域有广泛的应用。鉴于我看过的一些资料或言之不详、或繁乱无绪,本文来做个科普,分作两篇,上篇讲标量对矩阵的求导术,下篇讲矩阵对矩阵的求导术。本文使用小写字母x表示标量,粗体小写字母表示向量,大写字母X表示矩阵。首先来琢磨一下定义,标量f对矩阵X的导数,定义为,即f对原创 2017-12-29 14:15:56 · 3116 阅读 · 0 评论 -
梯度优化算法总结以及solver中相关参数解释
参考链接:http://sebastianruder.com/optimizing-gradient-descent/如果熟悉英文的话,强烈推荐阅读原文,毕竟翻译过程中因为个人理解有限,可能会有谬误,还望读者能不吝指出。另外,由于原文太长,分了两部分翻译,本篇主要是梯度下降优化算法的总结,下篇将会是随机梯度的并行和分布式,以及优化策略的总结。梯度下降是优化中最流行的算法之一,也是目前用于优化神经原创 2017-12-25 16:17:42 · 947 阅读 · 0 评论 -
卷积神经网络_(1)卷积层和池化层学习
卷积神经网络(CNN)由输入层、卷积层、激活函数、池化层、全连接层组成,即INPUT-CONV-RELU-POOL-FC(1)卷积层:用它来进行特征提取,如下:输入图像是32*32*3,3是它的深度(即R、G、B),卷积层是一个5*5*3的filter(感受野),这里注意:感受野的深度必须和输入图像的深度相同。通过一个filter与输入图像的卷积可以得到一个28*28*1的特征图,上图是用了两个f原创 2017-12-25 15:59:13 · 844 阅读 · 0 评论 -
线性代数的本质
原文链接:https://www.cnblogs.com/TenosDoIt/p/3214096.html从大学开始接触矩阵论和线性代数,记了很多公式,但是总感觉徘徊在线性代数的门外没有进去,感觉并没有接触到它的核心概念,不巧看到了这篇博客,顿时醍醐灌顶,豁然开朗,记录与此:比如说,在全国一般工科院系教学中应用最广泛的同济线性代数教材(现在到了第四版),一上来就介绍逆序数这个古怪概念,然后用原创 2017-12-25 15:36:27 · 3511 阅读 · 1 评论 -
R-CNN论文详解
这几天在看《Rich feature hierarchies for accurate object detection and semantic segmentation 》,觉得作者的科研素养非常棒,考虑问题很全面而且很有逻辑性;不过暂时有的地方看的也不是太懂,这里转载了一篇博客中的介绍,博主写的不错;博客链接:http://blog.csdn.net/wopawn/article/deta原创 2017-12-25 15:29:32 · 535 阅读 · 0 评论 -
统计学习那些事
编辑部按:本文转载Yang Can主页中的文章,稍有修改,原文链接请点击此处。作者简介:杨灿,香港科技大学电子与计算机工程系。主页:http://ihome.ust.hk/~eeyang/index.html在港科大拿到PhD,做的是Bioinformatics方面的东西。Bioinformatics这个领域很乱,从业者水平参差不齐,但随着相关技术(比如Microarray, Genotyping转载 2017-12-25 15:19:55 · 465 阅读 · 0 评论 -
凸集和凸函数
CMU凸优化笔记–凸集和凸函数结束了一段时间的学习任务,于是打算做个总结。主要内容都是基于CMU的Ryan Tibshirani开设的Convex Optimization课程做的笔记。这里只摘了部分内容做了笔记,很感谢Ryan Tibshirani在官网中所作的课程内容开源。也很感谢韩龙飞在CMU凸优化课程中的中文笔记,我在其基础上做了大量的内容参考。才疏学浅,忘不吝赐教。1、凸集合1.1原创 2017-12-25 15:18:14 · 2440 阅读 · 0 评论 -
关于矩阵的特征向量和特征值的含义
知乎上看到一篇讲解矩阵的特征值和特征向量的文章,感觉写的很有意思,参考链接:https://www.zhihu.com/question/21874816所以总结一下:特征值就是拉伸的大小;特征向量就是矩阵的运动方向;当然变换前,这些特征向量需要正交,所以需要先使用SVD奇异值分解;原创 2017-12-25 14:31:20 · 28020 阅读 · 1 评论 -
TensorFlowCXX编译与配置
TensorFlowCXX编译与配置一、所需软件工具1.CMake version 3.5以上2.git (http://git-scm.com)3.swig (http://www.swig.org/download.html)解压即可4.Visual Studio 20155.UCDA9.0 (https://developer.nvidia.com...原创 2018-08-30 09:16:58 · 1589 阅读 · 2 评论