支持向量机（Vladimir Vapnik)

根据我们机器人工程的专研人工智能的老师的教导，

我这两天在学习机器学习的基础算法，知道了有什么算法，

然后根据路线学习，路线给大家一下，很有用的。

根据(17条消息) 机器学习十大经典算法入门_pennyyangpei的博客-CSDN博客_机器学习经典算法这个，

我们知道，有10个基本的机器学习的算法。

然后，有一些视频课也很好的。

比如，这个[双语字幕]吴恩达深度学习deeplearning.ai_哔哩哔哩_bilibili

但是把，我用的不是这个，

用的是浙大的课

【浙大公开课】吹爆！2022年B站最好最全的机器学习课程，胡教授带你恶补AI专业知识！支持向量机 | 机器学习 | AI 人工智能_哔哩哔哩_bilibili

让我们知道，机器学习的本质，

知道了显著性编程和非显著性编程，

又知道了机器学习的第一个定义（阿瑟·萨缪尔Arthur Samuel）还有机器学习的顶二个定义（1998年Tom Mitshell)

还知道了什么是训练样本，识别率，机器学习的特点

还知道，Tom Mitshell定义和Arthur Samue定义的，显然，Tom Mitshell定义的定义更加数学化。

并且，经验和性能指标是由设计算法的人设计的。

还知道什么是监督学习，

一。学习的方法

1.监督学习的分类

2.传统的监督学习（每一个训练数据都有一个对应的标签）

       （1）传统的监督学习的算法：

3.非监督学习（所有的训练数据都没有对应的标签）

      （1）非监督学习的例子：

      （2）非监督学习的算法：

          

4.半监督学习（训练数据中一部分有标签，一部分没有标签） 

      （1）半监督学习定义：

        （2）半监督学习的例子

另外一种分类方法(基于标签的固有属性分类）

       1.把监督学习分为两类：分类和回归

           （分类和回归这两个概念的界限其实非常的模糊，因为连续和离散可以相互转换）

2.监督学习的例子（人脸识别）

        人脸识别有两类：

                                 模式一：标签是离散的。

                                  看两张人脸是不是一个人，是一个人就写1，不是就是0.

                                 模式二：标签是离散的，也是分类的问题。                        

        3.连续与离散：（可以相互转换）

现在是我这两天学习的支持向量机：

一。支持向量机的内核

       支持向量机有三种内核，

        分别是：线性内核，多项式核，高斯径向基函数核。

二。支持向量机定义：

1.支持向量机定义：

        支持向量机(SVM)是一种二类分类模型。

2.支持向量机的基本模型：

它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略是间隔最大化，可形式化为一个求解凸二次规划的问，也等价于正则化的合页损失函数的最小化问题。

支持向量机的学习算法是求解凸二次规划的最优化算法。

三。线性可分和线性不可分

1.线性可分

     （1）线性可分定义：

                             线性可分就是说可以用一个线性函数把两类样本分开

      （2）严格定义

                D0和D1是n维欧氏空间中的两个点集。

                如果存在n维向量w和标量 b，使得所有属于D0的点xi都有wxi+b>0，

                而对于所有属于D1的点xj则有wxj+b<0，则我们称D0和D1线性可分。

       (2)这样是线性可分的