统计学习，SVM和Kernel method资料

最新推荐文章于 2021-04-27 18:11:46 发布
最新推荐文章于 2021-04-27 18:11:46 发布
阅读量5.2k 收藏 5
点赞数 1
文章标签： optimization methods vector tutorials 数据挖掘 工作
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xnature/article/details/3559575
版权

Open Directory - Computers: Artificial Intelligence: Machine Learning: Datasets，e.g. UCI repos。

Statistical Data Mining Tutorials Slides by Andrew Moore，相当全！

support-vector-machines.org，kernel-machines.org，geneticprogramming.com。留意这些站的Software和Tutorial等部分。

Open Directory - Computers: Artificial Intelligence， 条目不少，ANN的资料比较丰富。 

 

关于核方法，贴两篇China-Pub上统计学习理论这本书里面的评论做为参考


airsmth_lh的评论echoes的评论被发到很多地方，个人认为错误众多。
1、支持向量机导论，此书乃是SVM方面的经典著作，该书的作者也是近年来SVM、kernel methods学术圈内的活跃学者，对于这些领域均有过重要的贡献。这本书从“线性机器、核方法、统计学习理论、凸优化”四个方面揭示了SVM的内在机理 --利用核使得能够使用线性的的方法发现数据中的非线性关系，并且利用统计学习理论保证学习机器的泛化性能。这些SVM的内在机理并没有发生重大的改变， 何来太老之说。
2、统计学习理论的本质；
3、统计学习理论；
以上两本均是vapnik自六十年代以来的工作的总结，前者在概念上给出统计学习理论的介绍，后者则给出了证明。vapnik的目标在于创建小样本统计 学。其三十年如一日的苦苦追寻令人感动（60年代开始老瓦的工作一直不被重视，直到SVM的出现）。两本书的翻译都是十分优秀的。张学工老师据我所知在其 博士期间就开始关注SVM方面的工作，他是最早介绍统计学习理论到中国的学者。也是国内SVM最好的学者之一
4、数据挖掘中的新方法：支持向量机。
很多人推荐这本书，但这本书实在不敢恭维。由于该书作者的背景，该书作者倾向于从最优化的角度介绍SVM，这当然远远偏离了SVM的核心。书中还加入了作 者的工作，但据我所知这部分工作根本没有得到承认（几乎没有被引用过）。至于对SVM的介绍则大量来自于经典（1，2，3）
5、Learning with Kernels: Support Vector Machines, Regularization, Optimization, and Beyond
真不知道echoes看不看文献，这本书大约被引用2000余次（顺便讲一下，4、数据挖掘中的新方法：支持向量机引用5次，来自google学术），至 于该书作者Schö；lkopf，他的工作只怕近年的SVM、kernel methods方面的文献没有不提到他的。今年的ICML(国际机器学习顶级会议)schö；lkopf是Invited Speakers，报告题目是“Thoughts on Kernels”。这本书意义深远，还给出了大量的习题，实在不容错过。
6、Kernel Methods for Pattern Analysis
支持向量机导论的作者的又一部著作，讨论模式识别方法的新框架“核方法”。经典。
7、Learning to classify text using support vector machines
echoes说从题目上看，。。。。，真服了他，不知道就不要乱来啊。SVM理论上近乎完美，但仍然要通过实际应用的考验，文本分类就是最早体现SVM的 领域之一（另一个是手写数字识别）。该书作者更是SVM领域的大牛，他开发了SVM最好的算法包SVM Light。近年来SVM算法的每一次重大优化，几乎都是由他发起。
如果仅仅为了使用SVM，看看台湾人的LibSVM半小时就可以学会使用，马上就能处理数据（分类、回归）。如果想尽快了解SVM的机理，1、支持向量机 导论则是首选，如果希望了解核方法及SVM，5、Learning with Kernels: Support Vector Machines, Regularization,Optimization, and Beyond，决不能错过。

 

PS：上传一个Learning.with.Kernels，这本电子书不好下，好不容易找到能下的还是扫描版。。搞不懂国内咋不引进这本书，难道名字没那些主打SVM的吸引人？

前天还做了个PPT Kernel Methods 快速入门，和大家讨论了一下，个人觉得讲得挺成功~
照着Kernel Methods for Pattern Analysis第二章做的，相当的入门，但是看了也能让不了解这个领域的人对核方法有个直观的认识了。放在 这里，以备需要~

以上转载自 http://www.cnblogs.com/dxz


xnature
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Notes 6 & 7 : Kernel Methods and SVM (核方法与支持向量机)
YHmoun的博客
04-12 342
Haicang Kernel Methods Overview Constructing Kernels 注： 对于一些专有名词的翻译可能不准确。 对公式的编号与 PRML 中相同。 Kernel Methods Overview 在 linear parametric models （参数模型）中，我们通过学习 y=wTx+by=wT...
SVM with kernel function
weixin_44132485的博客
12-06 966
简单介绍 在不使用kernel function的情况下,SVM只可以用来解决线性可分问题,面对线性不可分问题时,使用效果不佳.但是加入kernel function后,SVM的表达能力将会显著增加,下面将会简单介绍其原因,并使用PyTorch加以实现. 源代码以及题目等文件见博客 原理 SVM的原理不再进行赘述,具体可见博客.我们需要理解两个方面,1.为什么要使用kernel function....
learning with kernels
11-30
In the 1990s, a new type of learning algorithm was developed, based on results from statistical learning theory: the Support Vector Machine (SVM). This gave rise to a new class of theoretically elegant learning machines that use a central concept of SVMs -- -kernels--for a number of learning tasks. Kernel machines provide a modular framework that can be adapted to different tasks and domains by the choice of the kernel function and the base algorithm. They are replacing neural networks in a variety of fields, including engineering, information retrieval, and bioinformatics.Learning with Kernels provides an introduction to SVMs and related kernel methods. Although the book begins with the basics, it also includes the latest research. It provides all of the concepts necessary to enable a reader equipped with some basic mathematical knowledge to enter the world of machine learning using theoretically well-founded yet easy-to-use kernel algorithms and to understand and apply the powerful algorithms that have been developed over the last few years.
SVM & Kernel Method
ABadCandy's Blog
02-10 424
SVM & Kernel Method 前言 网上关于SVM的教程有很多，在此推荐一篇通俗易懂的： http://blog.csdn.net/v_july_v/article/details/7624837，SVM的主要思想是求解能够正确划分训练数据集并且几何间隔最大的分离超平面。这里的间隔最大化指的是硬间隔，并且考虑到几何间隔与函数间隔之间的关系以及最大/最小化目标函数的转换，可以...
《Learning with kernels》
01-23
kernel的大牛级人物写的书，那一定是必读的了
Learning with Kernels
12-05
Learning with Kernels， Bernhard Scho ̈lkopf and Alexander J. Smola，为pdf文字版。
SVM and Kernel method (nips tutorial)
03-05
综上所述，《SVM and Kernel method (nips tutorial)》详细介绍了支持向量机和核方法在统计学习理论中的应用。通过使用核函数将数据映射到高维空间，并在此基础上寻找最大边界的分类器，支持向量机能够有效地处理非...
KA.rar_KA_Kernel alignment_The Method Method_kernel svm
07-13
Kernel alignment is a good method for choosing the proper kernel parameters in SVM or other kernel based method.
SVM学习资料
12-15
### SVM学习资料解析 #### SVM简介与基本概念 支持向量机（Support Vector Machine, SVM）是一种监督学习模型，主要用于分类和回归分析。其核心思想是寻找一个最优超平面（Optimal Hyperplane），使得不同类别之间...
SVM without kernel function
weixin_44132485的博客
12-05 505
简单介绍 SVM(support vector machine)在没有使用核函数时,类似于Logistic Regression,但与Logistic Regression存在差别,最直观的差别便是Logistic Regression输出的为概率,而SVM直接返回判定结果.下面将详细介绍SVM的具体理论. 源代码以及题目等文件见博客 原理 支持向量机 原始的支持向量机只可解决线性可分问题.考虑下...
Learning with kernel
06-25
Learning with kernel，核学习书籍，初学者可以看看哦
Learning with Kernels Book
04-17
著名的kernel书 Learning with Kernels的PDF版本
Learning Kernel Classifiers Theory and Algorithms
03-18
One of the most exciting recent developments in machine learning is the discovery and elaboration of kernel methods for classification and regression. These algorithms combine three important ideas into a very successful whole. From mathematical programming, they exploit quadratic programming algorithms for convex optimization; from mathematical analysis, they borrow the idea of kernel representations; and from machine learning theory, they adopt the objective of finding the maximum-margin classifier. After the initial development of support vector machines, there has been an explosion of kernel-based methods. Ralf Herbrich’s Learning Kernel Classifiers is an authoritative treatment of support vector machines and related kernel classification and regression methods. The book examines these methods both from an algorithmic perspective and from the point of view of learning theory. The book’s extensive appendices provide pseudo-code for all of the algorithms and proofs for all of the theoretical results. The outcome is a volume that will be a valuable classroom textbook as well as a reference for researchers in this exciting area. The goal of building systems that can adapt to their environment and learn from their experience has attracted researchers from many fields, including computer science, engineering, mathematics, physics, neuroscience, and cognitive science. Out of this research has come a wide variety of learning techniques that have the potential to transform many scientific and industrial fields. Recently, several research communities have begun to converge on a common set of issues surrounding supervised, unsupervised, and reinforcement learning problems. TheMIT Press series on Adaptive Computation and Machine Learning seeks to unify the many diverse strands of machine learning research and to foster high quality research and innovative applications. Thomas Dietterich
Learning with kernel 高清版本
11-02
SVM方面的名作，高清的版本...
支持向量机SVM与核方法kernel method笔记（一）
weixin_38429450的博客
01-16 355
本章的主要内容 学习SVM前需要了解的理论 系列教程： （一）学习svm前需要了解的理论 （二）硬SVM （三）软SVM （四）对偶学习 Svm理论 1.1 模型选择 结构风险最小化：在“未见过的数据”（即测试数据）上的误差最小化 经验风险最小化：在训练数据上误差最小化 通常测试误差与训练误差之间存在这样的关系：test error rate<=train error rate + f(N,h,p)[泛化界] N：训练集大小 H：模型复杂度 P：概率（引入的控制变量）the probability t
Linux 内核相关的统计数据
ganggexiongqi的专栏
05-28 2220
Main-Page Deutsche Version. Linux Kernel Statistics Historical Linux versions Number of lines of the source codeNumber of files Latest Linux versions Number of lines Increase of
近期找的一些实用资料，关于Learning以及Kernel的
weixin_30254435的博客
10-06 135
Open Directory - Computers: Artificial Intelligence: Machine Learning: Datasets，e.g. UCI repos。 Statistical Data Mining Tutorials Slides by Andrew Moore，相当全！ support-vector-machines.org，kernel-machi...
统计学习中的Kernel Function——【Kernel density estimation】【Kernel Regression】
统计学+代码
04-27 268
统计学习中的Kernel Function 0.引入 假设随机变量XXX来自某个未知分布F(X)F(X)F(X) , 我们有一组XXX的抽样观测: x1,...xnx_1,...x_nx1​,...xn​ . 我们的问题是: 该如何估计它背后密度函数f(x)f(x)f(x) ? 1. Kernel density estimation(无监督学习) 1.1思想 我们已经假设分布函数为F(x)F(x)F(x) ， 密度函数为f(x)f(x)f(x). 估计F(x)F(x)F(x)的朴素想法就是用样本的经验分布
Apply SVM model using Linear Kernel function
最新发布
05-24
Sure, here are the steps to apply SVM model using Linear Kernel function: 1. Load the dataset and split it into training and testing sets. 2. Preprocess the data by scaling or normalizing the ...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值