sklearn机器学习——day19

sklearn的神经网络

神经网络与人脑的处理过程

sklearn是专注于机器学习的库，它不是专用于深度学习的平台，也不具备处理大型数据的能力，所以sklearn中的神经网络和其他机器学习算法比起来显得有些不受重视，它不具备做真正的深度学习的功能，甚至对一些在深度学习中非常关键的点缺乏关注。

回归单层神经网络：线性回归

 

w和b称为模型参数，b是偏差，w是回归参数

假设我们使用一个神经网络来表达线性回归的上述过程：

这是一个最简单的神经网络表示图

代码实现“

 

 二分类单层神经网络：sigmoid函数与阶跃函数

 

 

 

 

 

多分类单层神经网络：softmax回归 

 在了解二分类后，我们可以继续将神经网络推广到多分类。在sklearn中，我们曾经学习过逻辑回归做多分类的做法。逻辑回归通过Many-vs-Many (多对多)和One-vs-Rest (一对多)模式来进行多分类。其中，OvR是指将多个标签类别中的一类作为类别1，其他所有类别作为类别0，分别建立多个二分类模型，综合得出多分类结果的方法。

MvM是指把好几个标签类作为1，剩下的几个标签类别作为0，同样分别建立多个二分类模型来得出多分类结果的方法。这两种方法非常有效，尤其是在逻辑回归做多分类的问题上能够解决很多问题，但是对于神经网络却不奏效。

softmax公式：