- 博客(9)
- 资源 (4)
- 收藏
- 关注
原创 梯度下降与优化方法(SGD & Momentum & AdaGrad & RMSProp & Adam)
SGDSGD指stochastic gradient descent,即随机梯度下降。是梯度下降的batch版本。对于训练数据集,我们首先将其分成n个batch,每个batch包含m个样本。我们每次更新都利用一个batch的数据,而非整个训练集。即: xt+1=xt+Δxtxt+1=xt+Δxtx_{t+1}=x_{t}+\Delta x_{t}Δxt=−ηgtΔxt=−η...
2018-01-28 15:10:09 1435
原创 ML&DL必备之numpy & matplotlib
在学习machine learing 和Deep learning的时候不免会有一些数据的操作,科学计算和一些矩阵的操作需要用到numpy,而如果想可视化的时候,比如效果展示和调参的时候就需要画图,所以我们plot的的时候就需要用到一个很强大的包,叫matplotlib,今天对这两个包展开说明,都时经常用到的一些简单的操作!numpy集锦属性array = np.array([[
2018-01-26 22:16:59 577
原创 tensorflow 入门
先说两句题外话: (1)安装某个版本的tensorflow的pip命令是pip install tensorflow==1.4.0 (这里用1.4.0作为例子) (2)GPU版tensorflow安装:参考链接1 参考链接2 官方教程 在安装时会有几个坑: 注意cudnn的版本要与cuda相匹配 tensorflow的版本号又要与cudnn相匹配,要...
2018-01-26 22:11:03 794
原创 第三讲 cs224n系列之skip-pram优化 & Global Vector by Manning & 词向量评价
本系列是一个基于深度学习的NLP教程,2016年之前叫做CS224d: Deep Learning for Natural Language Processing,之后改名为CS224n: Natural Language Processing with Deep Learning。新版主讲人是泰斗Chris Manning和Richard Socher(这是旧版的讲师),两人分别负责不同的...
2018-01-24 22:58:43 2483
原创 第二讲 cs224n系列之word2vec & 词向量
本系列是一个基于深度学习的NLP教程,2016年之前叫做CS224d: Deep Learning for Natural Language Processing,之后改名为CS224n: Natural Language Processing with Deep Learning。新版主讲人是泰斗Chris Manning和Richard Socher(这是旧版的讲师),两人分别负责不同的...
2018-01-22 18:38:52 10552 2
原创 卷积神经网络检测脸部关键点-theano
前段时间做了一个kaggle上的一个很早的小项目,就是检测脸部关键点,Python环境好弄,但是当时为了速度用CPU加速,搞了将近一天(相关教程),其实详细流程也是根据一个相关教程上面的。防止丢失,把代码分享出来。I. 介绍卷积神将网络监测脸部关键点项目是是一个由Kaggle发起的在线比赛题目。该项目给出相关脸部96*96像素的人脸图片,目的是监测出人脸识别中最关键的15个点(也就是x、y共30个输
2018-01-11 20:42:37 1516
转载 聚类之高斯混合模型(Gaussian Mixture Model)
k-means应该是原来级别的聚类方法了,这整理下一个使用后验概率准确评测其精度的方法—高斯混合模型。我们谈到了用 k-means 进行聚类的方法,这次我们来说一下另一个很流行的算法:Gaussian Mixture Model (GMM)。事实上,GMM 和 k-means 很像,不过 GMM 是学习出一些概率密度函数来(所以 GMM 除了用在 clustering 上之外,还经常被用于 dens
2018-01-04 13:59:21 48512 14
转载 浅谈生成式模型和判别式模型
生成式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念,它们的区别在于: 对于输入x,类别标签y:产生式模型估计它们的联合概率分布P(x,y)判别式模型估计条件概率分布P(y|x)产生式模型可以根据贝叶斯公式得到判别式模型,但反过来不行。详细比较: 参考网址:参考一
2018-01-03 11:08:58 825
转载 从最大似然到EM算法浅解
这是我见过的讲解EM算法最详细的文章,没有之一,本博末尾处有出处机器学习十大算法之一:EM算法。能评得上十大之一,让人听起来觉得挺NB的。什么是NB啊,我们一般说某个人很NB,是因为他能解决一些别人解决不了的问题。神为什么是神,因为神能做很多人做不了的事。那么EM算法能解决什么问题呢?或者说EM算法是因为什么而来到这个世界上,还吸引了那么多世人的目光。 我希望自己能通俗地把它理解或者
2018-01-03 09:35:07 1272
Redis-x64-3.2.100.msi
2017-10-14
坦克大战游戏,支持声音,配置等
2015-03-14
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人