2021-07-30学习总结：感知器，感知机，支持向量机，卷积，全连接

可以认为感知器是神经网络的一个神经元
而感知机、支持向量机、卷积、全连接都是感知器
由感知机作为感知器组成的神经网络-感知机神经网络
由支持向量机作为感知器组成的神经网络叫做-支持向量机神经网络
由卷积作为感知器组成的神经网络叫做-卷积神经网络cnn
由全连接作为感知器组成的神经网络叫做-全连接神经网络

传统的机器学习应该指的的是感知机和svm机器学习算法，
而svm支持向量机是改良板的感知机
全连接网络是神经网络化的感知机

逻辑回归
逻辑回归也可以看成是感知机+一个逻辑
也就是说一个线性变换+一个非线性变换非线性特定指的的就是sigmoid，输出0和1，也就是逻辑true和false
感知机则是通过sign（x）符号函数判断是1或者-1来输出结果，这个是逻辑回归和感知机的区别，逻辑回归是用log求概率，感知机则是计算出这个超平面，判断点和超平面的位置关系，也就是符号函数来输出结果
线性变换可以看成是感知机，非线性变换可以看成是逻辑分类
全连接层
现在的卷积神经网络都是最后几层是全连接层，其实全连接层的作用是分类，可以做线性可分的分类问题，也已经被证明2个隐藏层的感知机可以解决大部分线性不可分的问题，也就是说2个全连接层可以解决非线性分类的问题，
可以这样理解：卷积层提取了很多特征图，这些特征图在很大概率上是线性不可分的，我们要把这些特征分类，就要用到感知机二分类，逻辑回归二分类，这些方法是分开线性可分的特征，如果这些特征线性不可分可以通过增加全连接的隐藏层来解决。