目录
一、研究背景与意义
研究背景:
- 皮肤作为最大的人体器官,与外界环境密切接触,易受紫外线辐射、冷热骤变和各种病原性生物感染,会引起皮肤病变;
- 恶性皮肤病变的早期诊断与治疗十分重要,但早期病变区域隐蔽性强,与正常肤色相似,藏匿于毛发之间,导致早期诊断十分困难;
- 皮肤镜图像中存在毛发遮挡、边界模糊、颜色差异性大、病变区域与正常皮肤对比度低等影响。经验丰富的皮肤科医生进行人工分割费时费力,且受主观因素影响,易导致误判及效率低下。
研究意义:
- 解放医疗资源,提高医学诊断的准确性和效率,降低医生工作强度;
- 皮肤病灶图像分割结果可作为医学诊断相关疾病的重要依据,提升医师对疾病的诊断及良恶性的判断精准度;
- 追踪病情变化。定期对皮肤病灶区域进行分割可帮助医生跟踪病情变化,对比不同时间的分割结果,可更好的评估治疗效果和病情进展。
二、双编码网络详述
CNN和Transformer的优缺点
CNN优点:
- CNN能够有效捕获图像中的局部特征;
- 权重共享和参数共享减少了模型参数量;
CNN缺点:
- 由于卷积操作局限性,CNN难以有效捕获长距离的依赖关系;
- 网络过深易出现梯度消失或梯度爆炸;
Transformer优点:
- Transformer在处理长序列和捕捉长距离依赖关系方面表现出色;
- Transformer能够适应大规模数据集和复杂任务;
Transformer缺点:
- Transformer结构较为复杂,对模型修改较为敏感;
- 计算成本高,需更多的计算资源;
- 捕获局部信息的能力不如CNN;
- 计算成本高,需更多的计算资源;
双编码网络优势
何为双编码网络?
双编码网络由两个编码器组成。由于CNN和Transformer功能的互补,分别使用上述网络作为编码器的两条支路共同提取特征,并将提取的特征充分融合,输入至解码器中。
双编码网络优势?
- 有效的捕获全局和局部的信息来改进医学图像的分割;
- 结合CNN和Transformer各自的优势,无需搭建深层次网络(梯度爆炸/消失),有效捕获全局信息;
双编码网络详述
(1)TransFuse
(2)TGDAUNet
(3)CoTrFuse
三、挑战及展望
挑战
- 模型复杂:双编码网络结构复杂,参数量高,会增加训练和推理的计算成本;
- 标注成本:对于皮肤病灶分割,需要大量高质量的标注数据集来训练模型,但标注成本过高;
- 鲁棒性和泛化性:在临床场景中,模型会面临不同人种肤色、不同光照条件等因素带来的挑战,模型的鲁棒性和泛化性仍需要进一步提升;
展望
- 增强模型泛化能力:使用不同临床场景的皮肤镜图像训练,以提高模型泛化性;
- 融合多模态信息:考虑融合来自多种医学图像模态(病理学图像、光学图像等)的信息,提高分割准确性;