一、什么是图像分类
1.定义
任务目标:给定一张图片,识别图像中的物体是什么
2.数学表示
3.传统方法:设计图像特征(1990s~2000s)
好的特征:
极大简化数据表达
保留内容相关信息机器学习可以处理图像分类问题
4.从特征工程到特征学习
自注意力机制
query的物理意义:
key的物理意义:我有什么
key和query的weight表示相关性
二、模型学习
模型学习的范式
范式一:监督学习
1.标注一个数据集2.定义损失函数3.解一个最优化问题
范式二:自监督学习
基于代理任务:Relative Location (ICCV 2015)基于对比学习:SimCLR (ICML 2020)基于掩码学习:Masked autoencoders (MAE, CVPR 2022)