机器学习--学习笔记
晨星小子
菜鸟一枚,成长中~~
展开
-
学习笔记---机器学习技法
上个月用了一个月的时间把台湾大学林教授的机器学习基石课程刷完了,现在开始刷这门课的后续课程,机器学习技法,这门课主要介绍了一些机器学习的常用算法,在此mark一下,此后会开一个专题,分享学习心得体验。 给大家几个传送门:机器学习技法,机器学习基石原创 2015-12-10 09:29:09 · 977 阅读 · 3 评论 -
学习笔记——支持向量机svm(2)对偶问题
回顾 上一篇已经讲到了将找一个最好的分割超平面转化为上面的公式并且用二次规划来求解的问题。但是还是存在一个问题,这个算法维度(w的维度)不是跟数据量相关的,而是跟数据内在的vc维度有关的,所以当数据内在维度很大时算法的效率无法保证,所以这一节讲一下上述问题的对偶问题,将这个算法维度转化为与数据量N相关的问题。 对偶问题1.去除条件约束对偶问题是将条件约束变成最小化式子中的一项并且前面乘上一个数(原创 2016-01-05 17:40:57 · 2293 阅读 · 0 评论 -
学习笔记——支持向量机svm(1)最简单的支持向量机
引言支持向量机作为一个有着完整理论证明并且效果很棒的算法始终活跃在机器学习的舞台上,而博主也很早就知道支持向量机了,但是始终都只是调用一下别人写的算法,没有深入的去理解支持向量机的原理,正好林轩田教授的机器学习技法课程一上来就介绍了svm这个经典算法,好好学习一下。什么是svm这个名字总会引起大家的误会,第一次听说会有一种不明觉厉的感觉,好像某种神奇的机器一样。不要被它的名字吓到,因为支持向量机的原原创 2015-12-11 09:28:00 · 1875 阅读 · 0 评论 -
学习笔记——支持向量机svm(3)kernel trick(核函数)
回顾上一篇讲到了svm的对偶问题: 将svm的算法维度(w维度)由vc维变成了跟数据量N,但是这样真的就完全简化了么?在我们求Q这个矩阵时,需要先将x转化为z,然后再做内积,复杂度是d^2。在这一篇我们就要介绍一种可以简化这个步骤的方法~传说中的核函数。核函数引入概念假设我们要做的x到z的转换是一个二次转换: 然后我们做一下内积: 化简化简,突然发现先转换为z空间再做内积的步骤可以原创 2016-01-10 13:55:18 · 6940 阅读 · 0 评论