研一汇报第二周(2019.10.27)

本周汇报内容：
1、论文：Deep Learning
2、上周跟踪问题：SVM
3、CS231n课程和《深度学习入门》（by 斋藤康毅）进度和内容总结
4、下周计划
一、Deep Learning
概括
关于深度学习的定义，应用领域，为什么需要深度学习，以及深度学习过程。
1.深度学习应用领域：语音、视觉、医药、基因工程等方向
2.深度学习定义：一门充分应用、分类识别的技术。（自己目前的理解）
3.激活函数（非线性）：
目的：解决线性不可分问题。
通常在神经网络结构中，只用一种激活函数，除了最后一层输出层，其他全连接层神经元都要包含激活函数。
常用的就是ReLU (Rectified Linear Unit)非线性激活函数。
f(x) = max(0,x)
[在输入大于0时，直接输出该值；在小于0时，输出为0]
激活函数图像：
几个激活函数对比

fou