Resent
残差网络
一、Resent网络理论部分
2015年,He等人采用残差网络(Residual Networks,ResNet)来解决梯度消失的问题。ResNet的主要特点是跨层连接,它通过引入捷径连接技术(shortcut connections)将输入跨层传递并与卷积的结果相加。在ResNet中只有一个池化层,它连接在最后一个卷积层后面。ResNet使得底层的网络能够得到充分训练,准确率也随着深度的加深而得到显著提升。将深度为152层的ResNet用于LSVRC-15的图像分类比赛中,它获得了第1名的成绩。在文献中,还尝试将ResNet的深度设置为1000,并在CIFAR-10图像处理数据集中验证该模型。
VGG
RNN递归神经网络
会将之前结果全部记下来,太多可能会导致一些特征不清楚。
LSTM
word2vec词向量模型
转换为词向量,根据前后两个次,输出得到一个多分类,让最有可能出现的第三个词,概率变大。
构建语料库,人为添加0标签
CBOW
Skipgram
GAN对抗生成网络
transfomer
TNT
蓝色的离散程度更大,特征更鲜明
DETR