2020大华校招算法工程师初面总结

1.自我介绍

2.项目介绍

	这里会根据项目，问一些问题，比如用到的算法、项目效果等

3.神经网络训练用到的初始化方法，不同的初始化方法会有什么样的不同，举例说明

	1.为什么要初始化
		防止CNN在前向传播过程中层激活函数的输出损失梯度出现爆炸或消失。
	2.Xavier初始化又称“正则化初始化”
		将每层权重设置为在有界的随机均匀分布中选择的值
	3.Kaiming初始化
		从头开始训练的任何网络，特别是计算机视觉，几乎肯定会包含ReLU激活函数，并且是深度的。在这种情况下，Kaiming初始化应该是我们的首选权重初始化策略。
			1)使用适合给定图层的权重矩阵创建张量，并使用从标准正态分布中随机选择的数字填充它
			2)将每个随机选择的数字乘以√2/√n，其中n是从前一层输出到指定层的连接数
			3)偏差张量初始化为零

4.从头开始训练神经网络的时候，若一开始就不收敛该怎么办？

	先看数据是否清洗干净，数据标签是否有问题
	查看模型，初始化方法是否合适
	学习率的设置是否过大，过深模型要采用学习率衰减方式