在本次AI夏令营第一周的学习中,我学习了丰富多彩的人工智能知识,涵盖了计算机视觉(CV)、自然语言处理(NLP)等领域的重要内容。老师与学生以及微信群的学习交流帮助我掌握了特征工程和模型训练的基本流程。同时,通过赛题解析和Baseline逐行精读,我了解了CV竞赛的套路和常见上分技巧。下面是我对本周自己学习情况的知识点总结。
第一部分:CNN原理与进阶技巧
CNN原理
- 卷积神经网络是广泛应用的适应性网络,由神经元组成。
- 每个神经元接受多个输入,通过加权求和和激活函数处理后输出。
神经网络输入处理
- 图像数据像素值需规范化到0~1范围作为输入。
全连接网络
- 简单的神经网络形式,但参数量大,训练难度高。
卷积操作
- 局部感知和参数共享的操作,使用卷积核在图像上滑动并计算累积得到新的图像。
下采样(池化)操作
- 用于减小特征图尺寸,降低计算复杂度和内存需求,并提取主要特征。
经典网络
- VGG16和VGG19是经典的卷积神经网络。
三维卷积
- 适用于医学影像等三维数据,需要使用专门的三维卷积核。
可视化工具
- 推荐了一款用于三维数据的可视化工具。
高位特征和低位特征
- 随着层数增加,形成高位特征,更抽象难以理解。
深度学习框架
- 推荐了用于医学图像处理的深度学习框架"non"。
二维和三维卷积的经典网络
- 提到了121等经典三维卷积网络。
模型优化
- 可尝试不同模型和框架如transformer等来优化模型。
可视化三维卷积
- 可通过修改代码实现可视化三维卷积。
第一部分思维导图:
第二部分:CV赛题解析与Baseline逐行精读
传统机器学习图像分类任务流程
- 数据准备、数据预处理、特征工程、模型训练、模型评估、结果预测、提交结果。
数据集格式
- 医学图像常用NAY格式表示三维数据,每幅图像包含多个切片。
特征工程
- 计算图像的统计特征如非零像素数量、均值、方差等,通常作为训练模型的输入。
模型选择
- 传统机器学习可选择逻辑回归、SVM、随机森林等;深度学习可使用CNN、RNN等,根据具体情况选择不同模型。
模型调优
- 调整迭代轮数、算法参数,增加特征等,使用不同的模型组合。
数据增强
1:基本增强包括旋转、裁剪、平移等,重复抽样也是一种增强手段。
第二部分思维导图:
第三部分:如何使用飞桨套件来实践CV全流程
竞赛流程
- 数据准备、预处理、模型选择、模型训练、模型评估、模型推理、提交结果。
使用套件的优点
- 提供预定义网络,避免重复造轮子。
- 包含优化的训练流程、数据增强等策略。
- 模块化设计,提高代码复用性。
- 快速上手,缩短训练调试周期。
PaddlePaddle套件
- 包含图像分类、目标检测等任务的套件,提供预训练模型,接口简单,支持可视化训练过程。
提高模型效果的方法
- 尝试3D卷积网络保留三维信息。
- 获取更多同分布数据增强数据集。
- 尝试调参和模型融合等集成学习策略。
云平台使用
- 提供GPU计算资源加速训练,支持Notebook编程。
- 可以提交后台任务,无需保持连接。
第三部分思维导图:
在本次AI夏令营第一周的课程学习中,我通过学习B站视频掌握了计算机视觉(CV)领域、CNN原理与进阶技巧、卷积神经网络的基本原理和操作,了解了全连接网络、池化操作以及经典网络结构等,但我自知还有很多要提升的地方,也有些部分知识点可能整理不当,希望同学们批评指正,我们大家一起努力,共同进步!