机器学习
DerrickLyh
这个作者很懒,什么都没留下…
展开
-
加州理工学院公开课:机器学习与数据挖掘课程笔记(一)学习问题
机器学习与数据挖掘课程笔记(一)学习问题原创 2013-12-16 07:37:08 · 1487 阅读 · 0 评论 -
1、机器学习-Linear regresstion with one varible
机器学习-Linear regresstion with one varible 斯坦福大学机器学习的牛人Andren Ng.的机器学习pdf课件和视频。 机器学习pdf课件下载:http://pan.baidu.com/disk/home#from=share_pan_logo 斯坦福大学机器学习公开课链接:http://v.163.com/special/opencourse/machinelearning.html网络博客牛人加"美女"Rachel-Zhang:http://bl原创 2014-01-09 13:36:11 · 1452 阅读 · 0 评论 -
Training a deep autoencoder or a classifier on MNIST digits_之调试运行与理解
Training a deep autoencoder or a classifier on MNIST digitshttp://www.cs.toronto.edu/~hinton/MatlabForSciencePaper.html运行这个程序的主要目的:深入理解deep autoencoder 的基本原理和基本架构,搞明白是如何搭建起来的,弄清它是如何训练学习原创 2014-01-09 09:22:41 · 2106 阅读 · 0 评论 -
2、机器学习-linear regression with multiple varibles
多变量线性回归模型将一个输入空间(特征)映射到一个输出空间(目标)。从线性系统的角度来看,多变量线性回归模型是一个多维的线性空间变换。相对单变量线性回归模型,多变量线性空间更加复杂,如梯度学习,同时表达的能力更强。两者在变量个数、假设模型表达、梯度计算、学习率的选择和特征选择都有相同之处和不同之处。原创 2014-01-10 15:59:34 · 1026 阅读 · 0 评论 -
3、机器学习-Logistic Regression and Regularization
机器学习-Logistic Regression and Regularization本文以Rachel-Zhang“美女”的网上博文Stanford机器学习---第三讲. 逻辑回归和过拟合问题的解决 logistic Regression & Regularization为主要阅读材料,外加Andrew Ng.老师的lecture6和lecture7补充材料以解决阅读时不理解的问题。在前原创 2014-01-11 14:58:10 · 1829 阅读 · 0 评论 -
Restricted Boltzmann Machines (RBM)
Restricted Boltzmann Machines (RBM)文章来自于:http://deeplearning.net/tutorial/rbm.htmlEnergy-Based Models (EBM)Energy-based models associate a scalar energy to each configuration of the vari转载 2014-01-14 13:58:16 · 1269 阅读 · 0 评论 -
Gibbs_Sampling
在直接采样困难的时候,在统计学和统计物理学中,吉布斯采样或者说吉布斯采样器是一种马尔可夫链蒙特卡罗算法,目的是为了获得一系列的观察值,而这些观察值近似的服从于指定的多变量概率分布(也就是说,服从于两个或者更多个随机变量的联合概率分布)。这些采取得到的序列可以用来近似联合分布(也就是说,用来产生一个分布的直方图),近似其中一个变量的边缘分布或者其中一些变量子集的边缘分布(比如,未知的参数或者隐藏变量),或者用来计算积分(如诸多个变量当中一个变量的期望值)。典型地,某些变量对应于的观察值是已知的,所以不需要被采原创 2014-01-16 09:04:13 · 1463 阅读 · 0 评论 -
训练Restricted Boltzmann Machine(RBM)十五个问题
训练RBM涉及到的知识点太多了,涉及到多个学科,如数学中的概率论(概率模型)、统计学(统计推断)、高等数学(求导求最优),计算机中的图形学的有向图、无向图、双向图,数字信号处理中的采样,信息论中熵的概念等等。对于数学计算机基础不好的人来说,这简直要人小命。本文从数学的角度将列训练RBM时所遇到数学问题,然后提供解决这些问题的相关链接。欢迎各位大侠、牛人、美女、帅哥参与解答微笑。原创 2014-01-16 13:31:00 · 2574 阅读 · 0 评论 -
Sparse RBM learning Algorithm
本文力求通过学习Sparse RBM learning Algorithm来理解掌握Rbm的整个训练过程。从数学角度来看,我们要理解掌握Rbm模型参数的求解过程。所以,本文就是讲解求Rbm数学模型参数的过程。原创 2014-01-16 15:22:06 · 2007 阅读 · 0 评论 -
Training a deep autoencoder or a classifier on MNIST digits_Rbm训练(Matlab)
Training a deep autoencoder or a classifier on MNIST digits_Rbm训练(Matlab)原创 2014-01-17 11:48:10 · 2565 阅读 · 1 评论 -
Training a deep autoencoder or a classifier on MNIST digits_Rbm训练(python)
Training a deep autoencoder or a classifier on MNIST digits_Rbm训练一、Rbm阅读材料 http://en.wikipedia.org/wiki/Restricted_Boltzmann_machine http://deeplearning.net/tutorial/rbm.html二、Rbm训练的基本原理原创 2014-01-11 16:13:23 · 1425 阅读 · 0 评论 -
如何更有效的调试运行MATLAB程序(阅读)
MATLAB程序的运行调试涉及到算法的基本原理(程序往往是来求解某个数学模型的参数)、matlab编程、程序设计这三大块内容,缺一不可。原创 2014-01-17 14:28:56 · 4106 阅读 · 0 评论 -
机器学习
机器学习参考资料: 外国资料: 1、Andrew Ng 2、Honglak Lee 博客: 1、 2、 课本资料: 1、Tom M. Mitchell 著,曾华军,张银奎等译,机器学习 程序运行实战: 1、python原创 2013-12-16 07:09:38 · 979 阅读 · 0 评论 -
交叉验证方法思想简介
交叉验证方法思想简介 以下简称交叉验证(Cross Validation)为CV.CV是用来验证分类器的性能一种统计分析方法,基本思想是把在某种意义下将原始数据(dataset)进行分组,一部分做为训练集(train set),另一部分做为验证集(validation set),首先用训练集对分类器进行训练,在利用验证集来测试训练得到的模型(model),以此来做为评价分类器转载 2014-02-24 09:32:17 · 803 阅读 · 0 评论 -
机器学习—介绍
机器学习—介绍机器学习概念: 两种观点:1、使计算机有学习的能力,在没有给具体程序的情况下。2、对于给定的任务T,计算机从以前的收集的数据或者经验中学习,而不断的提高自身的性能。机器学习分类:在执行某个任务时,是采用无监督的还是有监督的,主要看所给的数据中有没有给出类别,如果有,那就是有监督的。反之,就是无监督的。1、有监督学习:在训练的原创 2014-01-09 11:14:53 · 970 阅读 · 0 评论 -
跟着Rachel-Zhang学习 Deep Learning
跟着Rachel-Zhang学习 Deep Learning Rachel-Zhang的CSND博客:http://blog.csdn.net/abcjennifer/article/details/7826917 自己一个人学习的效率往往是比较偏低的。而跟着牛人走,向牛人学习,站着牛人的肩上看问题,自己的学习效率往往会更高,学得更加轻松,走得更快。基于此原创 2014-01-07 08:27:50 · 1908 阅读 · 0 评论 -
卷积局限波尔兹曼机的训练_(CRBM的训练)
卷积局限波尔兹曼机的训练_(CRBM的训练)训练过程的问题: 1、CRBM中许多滤波器的权值是如何学习的?是先用整个训练集训练完一个滤波器,然后再用整个训练集训练下一个滤波器;还是用一块训练集训练全部滤波器,然后再用下一个块训练集训练全部滤波器的权值? 2、滤波器的权值的增量是如何计算的? 3、可视层的偏置的增量是如何计算的?原创 2013-12-29 12:19:04 · 2774 阅读 · 0 评论 -
Unsupervised Feature Learning _介绍
Course Description课程描述: Machine learning has proved a powerful tool for artificial intelligence and data mining problems. However, its success has usually relied on having a good feature re原创 2013-12-17 08:30:46 · 956 阅读 · 0 评论 -
CSDN 网络文章格式-MyStyle
标题:字体、字体大小、加粗体文章重点内容的标注(颜色管理): 关键字: 概念: 要点: 注释: 基本原理: 链接: 参考文献:原创 2013-12-16 07:25:36 · 866 阅读 · 0 评论 -
Unsupervised feature Learning_2稀疏编码
Unsupervised feature Learning_2稀疏编码网络链接: 1、http://web.eecs.umich.edu/~honglak/teaching/eecs598/schedule.html参考文献: 1、B. Olshausen, D. Field. Emergence of Simple-Cell Receptive Fie原创 2013-12-17 11:57:36 · 870 阅读 · 0 评论 -
稀疏自编码
一、介绍二、神经网络 1)神经网络的构成 2)反向传播算法 3)梯度检查和高级优化三、自编码与稀疏四、可视化五、数学符号解释六、参考文献原创 2014-01-01 09:09:21 · 889 阅读 · 0 评论 -
无监督学习算法
一、clustering methods 1) Kmeans 2) Gaussion二、matrix factorization methods 1) PCA and other variants(Such as kernel PCA) 2) ICA 3) NMF 4) Sparse codi原创 2014-01-01 09:02:39 · 1897 阅读 · 0 评论 -
无监督特征学习涉及的基本概念
机器学习: 机器学习(Machine Learning)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域,它主要使用归纳、综合而不是演绎。无监督学原创 2013-11-10 22:50:41 · 1219 阅读 · 0 评论 -
Stacking Autoencoders vs DBN
Stacking Autoencoders vs DBN 比较||类比是人类思维过程的一种形式,是抽象的,也是人类创新的一种方法。它可以利用前人研究的成果的去研究新的领域,以更快的速度在新的领域取得突破口。 一、Autoencoder VS RBM二、Stacking Autocoders VS DBN原创 2014-01-02 08:54:03 · 1535 阅读 · 0 评论 -
Stacking Autoencoders VS CDBN
Stacking Autoencoders VS CDBN Stacking Autoencoders和CDBN都是深度学习算法。它们之间应该有一定的共性,无论是在它们框架的构建,还是在它们学习得到的特征。把它们放在一起比较有利用理解它们自己的原理,加深记忆,搭建论文,以论述研究的可行性。 框架的搭建: 1. Sparsity 2. H原创 2014-01-02 08:47:19 · 1192 阅读 · 0 评论 -
数字特征学习VS人脸特征学习
数字特征学习VS人脸特征学习一、“数字”图像的特点二、人脸图像的特点三、数字图像与人脸图像的异同 * 特征描述 *像素分布 *复杂程度 *学习情况原创 2014-01-02 08:12:26 · 773 阅读 · 0 评论 -
Stacking Autoencoders VS Stacking RBMs
Stacking Autoencoders VS Stacking RBMs一、训练的方式二、学习的效果三、搭建的方式原创 2014-01-02 08:18:32 · 900 阅读 · 0 评论 -
多层神经网络优化难题与解决方法
多层神经网络优化难题与解决方法多层神经网络优化难题的提出:1、Bengio et al.,2007 http://www.iro.umontreal.ca/~bengioy/yoshua_en/index.html 多层神经网络优化难题的解决:1. http://www.cs.toronto.edu/~hinton/ ,2006,Hinton2.原创 2014-01-04 10:22:21 · 1337 阅读 · 0 评论 -
Efficient sparse coding algorithm_(阅读笔记)
Efficient sparse coding algorithmsHonglak Lee Alexis Battle Rajat Raina Andrew Y. NgComputer Science DepartmentStanford University阅读思路:1、先通读全文,了解文章的框架与结构,目的是为了了解作者的研究思路与研究设计;2、仔细斟酌文章标题,掌握文原创 2013-12-21 09:09:03 · 4300 阅读 · 0 评论 -
阅读英语论文题目列表
把自己已经阅读过的英语论文文献题目发到网上,主要的目标就是跟大家一起学习交流。希望能和看过这些文章的弟弟、妹妹、姐姐和哥哥一起研究,一起学习,一起讨论,共同进步。原创 2014-02-25 16:30:24 · 1547 阅读 · 0 评论