12.9总结

本周的工作主要是总结了下上次开会的内容，不太明白清楚的查找了相关内容。复习了pandas库，新接触了matplotlib数据可视化，画图功能。

还有继续看机器学习西瓜书的神经网络部分，比如：

BP算法（基于梯度下降的算法，BP神经网络过拟合）

RBF网络:第一步，确定神经元中心，随机采样，聚类方法

二用BP算法来确定参数连接权重和输出

ART网络：

SOM网络：

级联相关网络：

Elman网络：

Boltzmann机：

无监督式训练

·································································································

解决方法：

早停，

正则化：数据分为训练集（计算梯度、更新连接权和阈值）和验证集（估计误差）

若训练集误差降低但验证集误差升高停止，返回具有最小验证集误差的连接权和阈值

正则化：在误差目标函数中增加一个用于描述网络复杂度的部分：，用交叉验证法估计

 

 

交叉验证法：就是重复的使用数据，把得到的样本数据进行切分，组合为不同的训练集和测试集，用训练集来训练模型，用测试集来评估模型预测的好坏。在此基础上可以得到多组不同的训练集和测试集，某次训练集中的某样本在下次可能成为测试集中的样本，即所谓“交叉”。数据不是很充足的时候。

多时：我们一般随机的把数据分成三份，一份为训练集（Training Set），一份为验证集（Validation Set），最后一份为测试集（Test Set）。用训练集来训练模型，用验证集来评估模型预测的好坏和选择模型及其对应的参数。把最终得到的模型再用于测试集，最终决定使用哪个模型以及对应参数。

第一种是简单交叉验证，所谓的简单，是和其他交叉验证方法相对而言的。首先，我们随机的将样本数据分为两部分（比如： 70%的训练集，30%的测试集），然后用训练集来训练模型，在测试集上验证模型及参数。接着，我们再把样本打乱，重新选择训练集和测试集，继续训练数据和检验模型。最后我们选择损失函数评估最优的模型和参数。

第二种是S折交叉验证（S-Folder Cross Validation）。和第一种方法不同，S折交叉验证会把样本数据随机的分成S份，每次随机的选择S-1份作为训练集，剩下的1份做测试集。当这一轮完成后，重新随机选择S-1份来训练数据。若干轮（小于S）之后，选择损失函数评估最优的模型和参数。

第三种是留一交叉验证（Leave-one-out Cross Validation），它是第二种情况的特例，此时S等于样本数N，这样对于N个样本，每次选择N-1个样本来训练数据，留一个样本来验证模型预测的好坏。此方法主要用于样本量非常少的情况，比如对于普通适中问题，N小于50时，我一般采用留一交叉验证。
第四种，自助法(bootstrapping)。比如我们有m个样本（m较小），每次在这m个样本中随机采集一个样本，放入训练集，采样完后把样本放回。这样重复采集m次，我们得到m个样本组成的训练集。当然，这m个样本中很有可能有重复的样本数据。同时，用没有被采样到的样本做测试集。这样接着进行交叉验证。由于我们的训练集有重复数据，这会改变数据的分布，因而训练结果会有估计偏差，因此，此种方法不是很常用，除非数据量真的很少，比如小于20个。
 

待补充~~~