ML_05 CNN

卷积的公式

要逆转一下然后点乘

卷积后的图像大小

同时如果我们在mm大小的图像用nn的卷积核之后会得到（m+n-1）平方大小的图像

Faltung anschaulich

卷积后图像看上去确实没什么变化，会把重要特征都保留下来
缺少一个图

为什么要用CNN

用KNN的话就会需要很多的w
100个像素点的话每一个Neuron在第一层就会有100个w。50个Neuron的话就5000个w，而且不是每个图像点都有用
而且也有可能会有很多相似的特征

Pooling

Max Pooling
Mean Pooling

Faltung im Detail

RGB三层，用一个FILTER，也就是3层变1层

STRIDE

卷积层每次移动的步数
m=7，n=3
Stride 2
（7-3）/2+1=3

Padding

在输入图像四周补像素，用于重视图像边界，不过有可能增加图像不存在的特征

Dropout

减少Overfitting
每一次训练不训练全部neuron
作用：减少neuron之间的关联

Initialisierung der Gewichte

Random Initialiyation
Fixed Feature Extractor
Fine-Tuning von trainiertem Netz (meist frühe Schichten)
Pretrained Initialization von trainiertem Netz (nur Initialisierung