Lequan Yu
《Difficulty-aware Meta-learning for Rare Disease Diagnosis》
摘要
这篇文章提出元学习方法解决罕见疾病分类问题。使用 ISIC 2018 skin lesion 分类数据集验证模型,每个类别仅展示5个样本训练,该模型可以快速的在未见过的类别上达到 83.3% 的分类准确率。
- 通过普通疾病的数据训练和构造元学习模型
- 调整模型适应罕见病分类
他们提出了一个有困难意识的元学习模型,可以在元优化期间动态监控学习任务的重要性。
数据集
ISIC 2018 Skin Lesion Analysis Towards Melanoma Detection Dataset (ISIC 2018 面向黑色素瘤检测的皮肤病灶分析数据集),包含7种皮肤疾病的一共 10,015 皮肤病灶图片。其中良性角化病 1099 张,黑色素瘤 1113 张,黑素细胞痣 6705 张,基底细胞癌 514 张,皮肤纤维瘤 115 张,血管病变 142 张,光化性角化病 327 张。
方法论
该论文提出的模型种训练数据与测试数据是完全不同的类别
本文元学习算法
Require: D t r D_{tr} Dtr:元训练数据, α \alpha α:元学习率, γ \gamma γ:内部自适应学习率
- 随机初始化网络权重 ϕ \phi ϕ
- while 不收敛 do
- 来自 D t r D_{tr} Dtr 的样本批量任务
- for 批量任务 T i \mathcal{T}_i Ti do
- for 适应步骤 do
- 使用 L T i ( f ϕ i ( x j ) ) = − ∑ x j , y j ∼ T i y j l o g ( f ϕ i ( x j ) ) + ( 1 − y j ) l o g ( 1 − f ϕ i ( x j ) ) \mathfrak{L}_{\mathcal{T}_i}(f_{\phi_i}(x_j))=-\sum_{x_j,y_j\sim{\mathcal{T}_i}}y_jlog(f_{\phi_i}(x_j))+(1-y_j)log(1-f_{\phi_i}(x_j)) LTi(fϕi(xj))=−∑xj,yj∼Tiyjlog(fϕi(xj))+(1−yj)log(1−fϕi(xj)) 关于 k k k 个样本估计 L T i ( f ϕ i ) \mathfrak{L}_{\mathcal{T}_i}(f_{\phi_i}) LTi(fϕi)
- 使用 ϕ i ′ ← ϕ i − γ ▽ ϕ L T i ( f ϕ i ) \phi_i'\leftarrow\phi_i-\gamma\triangledown_{\phi}\mathfrak{L}_{\mathcal{T}_i}(f_{\phi_i}) ϕi′←ϕi−γ▽ϕLTi(fϕi) 计算 T i T_i Ti 的梯度下降
- end for
- 使用 L D A _ m e t a = ∑ T i ∼ p ( T ) − L T i η l o g ( m a x ( ε , 1 − L T i ) \mathfrak{L}_{DA\_meta}=\sum_{\mathcal{T}_i\sim{p(\mathcal{T})}}-\mathfrak{L}_{\mathcal{T}_i^\eta}log(max(\varepsilon,1-\mathfrak{L}_{\mathcal{T}_i}) LDA_meta=∑Ti∼p(T)−LTiηlog(max(ε,1−LTi) 计算 L D A _ m e t a ( f ϕ i ) \mathfrak{L}_{DA\_meta}(f_{\phi_i}) LDA_meta(fϕi)
- end for
- 使用 ϕ ← ϕ − α ▽ ϕ L D A _ m e t a \phi\leftarrow\phi-\alpha\triangledown_{\phi}\mathfrak{L}_{DA\_meta} ϕ←ϕ−α▽ϕLDA_meta 更新网络权重 ϕ \phi ϕ
- end while
- return ϕ \phi ϕ