读书笔记4-5

决策树，理解起来通俗易懂，实际内涵无限厚重！if函数也好，叶结点也罢，总之就是将预测过程理解为判断流程，判断过程中生成各个结点，判断结束得出叶结点即为预测结果。这一模型自然也有评估指标，谓之“纯度”，应对过拟合状态也可以进行剪枝。可以预剪枝，也可以后剪枝，前者容易带来欠拟合的问题，后者因为决策树已生成，剪枝过程就会计算量较大，耗费时间。

关于神经网络，内容也相对独立。学过生物的都知道神经突触，当信号脉冲足够强烈到冲破阈值，就会刺激神经突触传递化学物质信号，神经网络就这样逐渐建立。在计算世界，无非就是对数据进行加权计算，当计算结果达到阈值，便激活阶跃函数或者sigmoid函数，最终输出数据结果。

简单的神经网络无非一层神经元传递后直接输出，深度的神经网络则在输入和输出之间多了中间层——隐含层。隐含层可以包括多层。是对上层输出结果进行函数处理，即信号加工。结果由输出层输出。整个过程不存在环路或者回路，称为多层前馈神经网络。整个学习过程是根据数据权重和阈值来调整神经网络的学习。

计算过程自然也要考虑误差问题，这里提到BP算法——误差逆传播算法。这里体现一个逆向回传，我理解为对权重和阈值的调整过程，通过反向传播算法，找到最合适的全职和阈值。

![]https://img-blog.csdnimg.cn/20190903155228977.jpg?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2pveWVlNTEy,size_16,color_FFFFFF,t_70)


![在这里插入图片描述](https://img-blog.csdnimg.cn/20190903155353765.jpg?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2pveWVlNTEy,size_16,color_FFFFFF,t_70