机器学习——SVM
sqiu_11
“取乎其上,得乎其中;取乎其中,得乎其下;取乎其下,则无所得矣”
展开
-
转 支持向量机通俗导论(理解SVM的三层境界)——机器学习第一步SVM
支持向量机通俗导论(理解SVM的三层境界)作者:July、pluskid ;致谢:白石、JerryLead出处:结构之法算法之道blog。前言 动笔写这个支持向量机(support vector machine)是费了不少劲和困难的,原因很简单,一者这个东西本身就并不好懂,要深入学习和研究下去需花费不少时间和精力,二者这个东西也不好讲清转载 2016-10-30 21:28:18 · 1079 阅读 · 0 评论 -
sklearn学习-SVM例程总结2(特征选择——单因素方差分析(方差分析anova ))
本文隶属于机器学习的特征选择部分,是训练前对数据的预处理部分。对于机器学习而言,特征选择是影响结果的极其重要的组成部分。这部分内容涉及到数理统计的内容,尤其是方差分析。当然,这些只是我这几天查到的,其背后的知识还有很多,以后的学习会不断加深这方面的理解,这里只对这个例程以及背后的特征选择做个初步总结。原创 2017-02-28 23:37:42 · 6877 阅读 · 0 评论 -
sklearn学习-SVM例程总结3(网格搜索+交叉验证——寻找最优超参数)
网格搜索+交叉验证——寻找最优超参数1548962898@qq.com连续三天写了三篇博客,主要是为了尽快了解机器学习中算法以外的重要知识,这些知识可以迁移到每一个算法中,或许说,这些知识是学习并应用其他算法的基础。三天时间太短,一些知识只能走马观花,理解不透彻,但是至少对每一点都有了印象,以后在与其他算法结合时,进行多次理解。而且网上一些比较好的博客我都已经收集起来了,等以后在遇到类原创 2017-03-03 14:57:47 · 25421 阅读 · 4 评论 -
sklearn学习——SVM例程总结1(outlier and unbalanced classes)
写在前面的话最近两周一直在看SVM,有人称它为数学届的奇迹,推导过程极其重要,其中蕴含的思想和技巧是极其深刻和巧妙的,对学习者而言,过程的推导的意义甚至超过了应用层面。这里推荐几本书:李航的《统计学习方法》,周志华的《机器学习》,《Pattern Recognition and Machine Learning》书中详细介绍了推导过程。这里不做推导过程和原理的叙述,只从sklearn例程说起。原创 2017-02-26 13:18:26 · 2278 阅读 · 0 评论 -
sklearn学习——SVM例程总结(PCA+Pipline+cv+GridSearch)
Introduction其实对于SVM调节超参数不需要这么复杂,因为gamma可能更重要一点,固定C=1,手动调节gamma即可。此外,sklearn的网格搜索极其的慢,下面的代码出来结果至少要半个多小时,如果有经验根本不需要。对于有经验的人来说或许看学习曲线就能知道调什么参数。但是为什么还要这么做呢?可能是为了装吧,或许更直观一点,不需要老中医式的随便开点良药,看看效果再换药了!PCA:原创 2017-07-26 22:19:44 · 3548 阅读 · 0 评论 -
SVM的传奇故事——SVM知识点总结
IntroduceSVM是机器学习算法工程师面试必问算法,原理、推导、应用场景、算法比较等等,遂总结于此,方便他人和自己复习!SVMSVM的核函数如何选取?https://www.zhihu.com/question/21883548(1)如果特征维数很高,往往线性可分(SVM解决非线性分类问题的思路就是将样本映射到更高维的特征空间中),可以采用LR或者线性核的SVM;(2原创 2017-09-15 16:51:25 · 1630 阅读 · 0 评论