2016年04月_isMarvellous

11月 04月

原创生成学习算法（Generative Learning Algorithms）

今天我们来聊一聊生成学习算法，内容主要包括生成模型和判别模型的比较，以及生成学习算法的一个例子——高斯判别分析（Gaussian Discriminant Analysis, GDA）。1. 生成模型和判别模型　　前面我们讨论的学习算法（线性回归、逻辑回归、softmax等）都有一个共同点，那就是我们都在想方设法求出p(y|x;θ)p(y|x;\theta)，也就是说，给定特征x，我们直接求出y的条

2016-04-22 19:23:41 10713

原创广义线性模型（Generalized Linear Models, GLM）

上一篇博客中我们说到线性回归和逻辑回归之间隐隐约约好像有什么关系，到底是什么关系呢？我们就来探讨一下吧。（这一篇数学推导占了大多数，可能看起来会略有枯燥，但这本身就是一个把之前算法统一起来的抽象模型，从一个更高的角度给出了一个更具泛化能力的方法，还是很有意义的。）1. 指数分布族　　首先，我们先来定义指数分布族（exponential family），如果一类分布可以写成如下的形式，那么它就是属于指

2016-04-13 20:33:25 11028 1

原创逻辑回归（Logistic Regression）

趁着现在有空再写一篇吧，以后忙起来可能就更新得慢了。　　前面我们讨论了回归问题，下面我们来说一说分类问题。Logistic function　　先从最简单的二值分类（binary classification）问题说起，也就是说y只能取1或者0两个值，其中，0称为负类别（negative class），1称为正类别（positive class），也可以分别用“-”号和“+”号表示。　　如果

2016-04-10 22:34:07 3273

原创梯度下降法（Gradient Descent）

第一次写博客，好激动啊，哈哈。之前看了许多东西但经常是当时花了好大功夫懂了，但过一阵子却又忘了。现在终于决定追随大牛们的脚步，试着把学到的东西总结出来，一方面梳理思路，另一方面也作为备忘。接触机器学习不久，很多东西理解的也不深，文章中难免会有不准确和疏漏的地方，在这里和大家交流，还望各位不吝赐教。　　（又加了一部分代价函数的概率解释——2016.4.10）

2016-04-08 18:20:09 9761 10

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

原创 生成学习算法（Generative Learning Algorithms）

原创 广义线性模型（Generalized Linear Models, GLM）

原创 逻辑回归（Logistic Regression）

原创 梯度下降法（Gradient Descent）

空空如也

空空如也

原创生成学习算法（Generative Learning Algorithms）

原创广义线性模型（Generalized Linear Models, GLM）

原创逻辑回归（Logistic Regression）

原创梯度下降法（Gradient Descent）