(1)Bag of words(BoW)“词袋”算法原理,对图像提取到的特征进行编码,消除冗余信息,获取相同的特征矢量长度。可以用于后续分类。(注意:视觉词汇之间没有顺序)
常常使用的方式是首先提取sift视觉词汇向量,然后通过k-means算法合并相似的视觉词汇,最后统计每一副图像中的视觉词汇数量,形成词汇向量。
在图像中也称为bag of features(BOF)。
(2)匈牙利算法,当每个目标可以和多个目标进行匹配,但是每一个目标只能匹配一次,如何使得匹配的线路最多
(3)深度学习和机器学习中常见的过拟合问题,从原理上介绍了几种正则化方法,用于防止数据过拟合。
过拟合方法包括:early stop,数据增强(Data augmentation),正则化(Regularization,包括L1,L2,L2正则化也叫权重衰减),随机失活(dropout)。
(4)深度网络中的BN(batch normalization)层的作用,BN层几乎成为了深度网络的标配(conv,bn,relu)。在深度网络中的训练过程中,输入分布常常发生偏移,向着非线性激活函数的取值区间的两端靠近,这样导致后面的梯度消失,收敛速度减慢。BN将其将每一层的输入值转变成标准正态分布,这样使得激活输入值落在非线性函数对输入比较敏感的区域,产生更大的梯度。
(5)随机失活(dropout),随机失活(用在全连接层)能够有效地防止数据过拟合,一般认为随机失活应用了模型的集成思想。从另一方面考虑,我认为随机失活和数据增强中扣除部分图像十分类似,不同的是随机失活在特征图上进行,扣除部分图像在原始图像上进行,随机失活每次训练都从选择部分特征图进行训练,也相当于增大了训练集。
(6)记录一个博客大牛,计算机视觉,图像处理,深度学习,机器学习
(7)梯度下降的时候增加动量进行更新参数,当连续参数下降方向一致的时候,增加参加下降速度
(8)pytorch中如何使用多GPU训练
https://blog.csdn.net/daydayjump/article/details/81158777
https://blog.csdn.net/u013828589/article/details/79963685