《Defects Detection Based on Deep Learning and Transfer Learning》-- 阅读笔记

论文信息

整体思路：

·无监督学习

			根据源域样本特征对其进行训练，以便根据源域样本获得网络的权重。然后，将源域DBN的结构和参数转移到目标域，
		并使用目标域样本对网络参数进行微调，以获取目标域训练样本与无缺陷模板之间的映射关系。最后，通过与重建图像进行比较来检测测试样品的缺陷。

优点：通过参数传递学习解决DBN网络训练中的过拟合问题。通过迁移学习，可以解决样本不够的问题，并且可以通过两种样本相互交叉传递，微调，不断提高准确率。

缺点：能检测相同位置的产品缺陷，而没有平移和旋转不变性。

·DBN (Deep Belief Network–深度信任网络)

Restricted Boltzmann Machine（RBM）

由可见层和隐藏层组成。 
	可见层单元主要用于描述观测数据的一个方面或特征(显示特征)
	隐藏层单元（也称为特征提取层）通常含义不清，可用于获取与可见层相对应的变量之间的依赖关系（提取特征）

BM可以定义一个能量函数，以便参数空间中的每种情况都有对应的标量能量，这意味着该能量函数是从参数空间到能量的映射。 假设RBM具有n个可见单元 v = (v1,v2,…,vn)，m个隐藏单元h=(h1,h2,…,hm)，并且给出了一组状态(v,h)，则能量 函数RBM可以由公式（1）定义为

其中ai是可见层的bias，v是第i个可见单元，vi是第i个可见单元的状态；bj是隐藏层的bias，h是第j个隐藏单元，hj是第j个隐藏单元的状态；wij表示可见单元vi和隐藏单元hj之间的连接权重

基于（1）中定义的能量函数，状态（v,h）的联合概率分布可以由公式（2）定义为：

其中Z是归一化常数（也称为分区函数）

对于实际问题，在给出训练样本后需要对RBM进行训练，以使RBM表示的概率分布尽可能与训练数据一致。 RBM训练意味着通过调整RBM参数Wij，ai，bj来拟合给定的训练数据。 假设训练样本集为S = {v1，v2，…，vT}，其中T为训练样本数，则将对数似然方程（5）的最大值设置为RBM训练目标：

RBM Training

DBN Training

Transfer Learning

具体训练过程

3.2 Construction and Training of Source Problem Domain DBN

3.3 DBN Parameter Transfer

3.4 Defect Recognition and Detection

实验结果