一、支持向量机SVM
![](https://i-blog.csdnimg.cn/blog_migrate/5240b545515d713bc6518414793b08a9.png)
分类的边界附近的向量为支持向量
线性
非线性
#用核函数计算低维两个向量在高维空间的内积(可以理解为距离)
将非线性的向量通过核函数映射到高维空间,进而线性可分
二、自编码器
高维->低维->高维
输出=输入(理想状态)
训练好后便可用来新数据解码。
![图2.1象棋大师的记忆模式(左)和一个简单的自编码器](https://i-blog.csdnimg.cn/blog_migrate/13ba05829046025ca965db77df59fa84.png)
一次无法提取出全部特征–>多次提取(增加隐含层数量):深度自编码器,也称栈式自编码器(易于收敛)
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/186297dc2afffd118fe5789db037f622.png)
三、深度置信网络(DBN)
受限玻尔兹曼机(RBM)
受限:层间节点不相互连接
效果比自编码器好
特征提取
加入了激活函数
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/083460b1b02eafe2fd811a2ee0d9e91e.png)
重建
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/8906569132b0eda6f762d73a5d55faa6.png)