Segmentation 分割
上图中没有对四只牛进行具体的分割,因为四只牛混在一块了,这是 Semantic Segmentation
Instance Segmentation 实例分割又称为实时检测与分割
需要把每个pixel分到具体的类上面去
实际中语义分割和实例分割是分开进行的
Semantic Segmentation 语义分割
multi-scale
Refinement
Upsampling
deconv的前向后向和conv后向前向相同
deconv这个名字并不好
Instance Segmentation 实例分割
Attention Model 注意力模型
Videos
RNN与CNN相融合
Unsupervised Learning for deep learning
自动编码器和生成对抗网络
Autoencoders
Vanilla Autoencoders
在这里z的空间大小比x小是因为先把数据压缩然后提取出比较重要的部分(类似于PCA)
对于reconstructed这件事,要使用upconv使得数据从空间大小比较小的扩展回原来状态重新产生原始数据
encoder和decoder经常是会共享参数的
流程是:encode decoder 计算loss 然后反向传播
在训练结束之后会丢弃decoder,这是因为reconstruction重建这件事并不是很有用
大量的无label样本和少量有label样本,适合用Autoencoders,利用encoder去初始化监督模型。利用很多无监督学习样本去学习到有用的特征,但是这个方法其实不是很行的通。
Variational Autoencoder
由于上图左边的
pθ(x)
几乎找不到
与Vanilla Autoencoders不同的是,在最后不再计算L2 LOSS而是让output的数据分布与原始数据分布相似,中间部分也有loss,中间部分产生的隐含特征概率要和最前面声明的先验概率分布近似
Generative Adversarial Nets 生成对抗网络
包含生成器和鉴别器