AI入门知识点总结

神经网络总结(更新中。。。)

名词解释：

minibatch，epoch，

1 神经网络常见层及常用操作：

卷积，激活函数，pooling，正则化，批量正则化，全连接，LRN(local response normalization), BN(batch normalization)，

dropout，

- LRN 公式：

其中a的上标指该层的第几个feature map，a的下标x，y表示feature map的像素位置，N指feature map的总数量，公式里的其它参数都是超参

- BN：

2 损失函数：

Softmax 交叉熵损失，

3 常用优化算法

SGD，Adam，。。。

4 开源神经网络算法模型：

AlexNet, MTCNN, VGG, ResNet, YOLO, SSD

5 开源框架

Tensorflow，Pytorch，Caffe

- 了解常用框架的历史

- 学习流行框架的特点

- 掌握流行框架的使用

6 数据集下载地址

https://blog.csdn.net/yangdashi888/article/details/70503874 （转载）

https://blog.csdn.net/guyuealian（转载）

7 TensorFlow训练网络模型

Alexnet网络模型训练

VGG / GoogleNet

Resnet网络模型训练

分布式训练