机器学习与算法原理

机器学习概念：人通过过往经验的总结来对新的问题做预测，而机器学习就是把这种思路嫁接到机器上，让机器通过对已有数据资源做训练，使机器对这些数据产生特征印象，然后给机器新的数据，让机器对新的数据做出特征预测。

算法：

1.线性回归算法： 

(1)最小二乘法：拟出一条直线，使所有点到线的误差平方最小。最小二乘法属于数值型预测，预测的结果一般是数值，例如：房价等。

 (2)逻辑回归：拟出一条分类线，判断是或否，它是在线性回归算法的计算结果上加上了一个Sigmoid函数，使结果处在0到1之间，这时数值越大，结果越接近1，数值越小，结果越接近0。如下图：如果出现一个新的绿色的点，可以通过点的特征(烟龄与肺部状况)去判断新的绿点是属于蓝色一类还是红色一类。

 2.神经网络

神经网络的概念：神经网络模仿人脑对眼睛看到的物品的分析过程，人的大脑对眼睛看到的东西做处理需要三层步骤，输入层、隐藏层、输出层，

例：一个正方形，分解为四个折线进入视觉处理的下一层中。四个神经元分别处理一个折线。每个折线再继续被分解为两条直线，每条直线再被分解为黑白两个面。于是，一个复杂的图像变成了大量的细节进入神经元，神经元处理以后再进行整合，最后得出了看到的是正方形的结论。这就是大脑视觉识别的机理，也是神经网络工作的机理。

神经网络把人脑的分析逻辑概念放到机器上实现，而隐藏层可以理解为分解、整合，在隐藏层也分出许多层，有卷积层，池化层，全连接层。卷积层中有许多卷积核，卷积核可以直接作用到图片上进行卷积运算，再通过池化可以得到相应的值，卷积的次数越多，识别的精度越高。

下图为神经网络图像识别领域的一个重要应用LeNet，是一个基于多个隐层构建的神经网络。通过LeNet可以识别多种手写数字，并且达到很高的识别精度。具体的理论看链接：

LeNet详解：https://blog.csdn.net/qq_42570457/article/details/81460807

卷积核的作用：https://blog.csdn.net/zandaoguang/article/details/104890393

神经网络实验：http://playground.tensorflow.org/#activation=tanh&batchSize=10&dataset=xor&regDataset=reg-plane&learningRate=0.03&regularizationRate=0&noise=0&networkShape=5,5,5&seed=0.70597&showTestData=true&discretize=true&percTrainData=50&x=true&y=true&xTimesY=false&xSquared=false&ySquared=false&cosX=false&sinX=false&cosY=false&sinY=false&collectStats=false&problem=classification&initZero=false&hideText=false&batchSize_hide=false