machine-learning
文章平均质量分 62
treasuresss
清醒时做事,糊涂时运动
展开
-
《PCA的数学原理》读书笔记
《PCA的数学原理》读书笔记最近读了张洋的《 PCA的数学原理 》的文章,受益匪浅,但是文章中也有一些地方不甚明了,本着刨根问底的态度,在此写下自己的理解和阅读之中所遇到的困惑及明悟。作为一只数学狗,个人还是比较喜欢规范化的文字。首先定义一些符号:假设我们有mm个样本数据,每个样本都是一个nn维向量,那么我们的样本矩阵就是一个n×mn \times m的矩阵An∗mA_{n*m},即以列为样本,行为原创 2015-09-11 13:21:56 · 1424 阅读 · 2 评论 -
CNN Note
CNN Note本文主要记录些CNN相关的文章,以为备忘: 1. Deep Learning(深度学习)学习笔记整理系列之(七) 2. Deep Learning论文笔记之(四)CNN卷积神经网络推导和实现 3. Deep Learning论文笔记之(五)CNN卷积神经网络代码理解 4. 注解: 1. 此文章详细介绍了卷积神经网络的历史和原理,入门必备。 2.原创 2016-01-21 11:45:07 · 394 阅读 · 0 评论 -
BP神经网络的反向求导
BP神经网络本文章主要是记录BP神经网络的反向求导的具体过程,主要参考是UFLDL Tutoial。 中文版教程请戳此神经网络经典的神经网络是由多个感知器(神经元)构成的全连接的网络,本质上来说,这样的连接只是简单的线性加权和而已,所以每个神经元加上同一个非线性函数(如sigmoid,tanh等),使得网络能拟合非线性,其中这个非线性函数成为激活函数。符号描述为简便叙述,本文中的神经网络都是最简单原创 2016-03-05 16:39:17 · 6158 阅读 · 0 评论 -
word2vec
Corpuszh_cn搜狗语料库:ftp://ftp.labs.sogou.com/Data/SogouCS/SogouCS.tar.gz 中文维基百科语料库:https://dumps.wikimedia.org/zhwiki/latest/zhwiki-latest-pages-articles.xml.bz2en英文维基百科语料库:https://dumps.wikimedia.org/en原创 2016-03-06 14:39:24 · 881 阅读 · 0 评论 -
数值最优化
0. 数学基础多元函数 1. 设多元函数 f:Rn→R f:R^n\rightarrow R 二次连续可微,则 f f 在 xx 处的梯度和Hessian矩阵为:∇f(x)=(∂f(x)∂x1,∂f(x)∂x2,⋯,∂f(x)∂xn)T \nabla f(x) = (\frac{\partial f(x)}{\partial x_1},\frac{\partial f(x)}{\partial原创 2016-03-15 17:48:13 · 1980 阅读 · 1 评论 -
CNN
参考文献:GradientBased Learning Applied to Document Recognition - Yann LeCun Leon Bottou Yoshua Bengio and Patrick Haner Abst:杨乐村98年基于MNIST的LeNet-5的详细论文 Unsupervised Feature Learning and Deep Learning:UF原创 2016-03-04 14:37:39 · 639 阅读 · 0 评论