先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7
深知大多数程序员,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年最新大数据全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新
如果你需要这些资料,可以添加V获取:vip204888 (备注大数据)
正文
nnUNet_preprocessed = os.environ.get(‘nnUNet_preprocessed’)
nnUNet_results = os.environ.get(‘nnUNet_results’)
nnUNet_raw=“/home/bai/environments/nnUNet/DATASET/nnUNet_raw”
nnUNet_preprocessed=“/home/bai/environments/nnUNet/DATASET/nnUNet_preprocessed”
nnUNet_results=“/home/bai/environments/nnUNet/DATASET/nnUNet_trained_models”
##### 五、数据集转换
对下载好的数据集进行命名格式转换
nnUNetv2_convert_MSD_dataset -i /home/bai/Task02_Heart -overwrite_id 502
给数据集起个代号502,方便后用。
关于dataset.json文件,这个文件包含你的训练数据信息和任务信息,如果下载了网上公共的数据集,那里面是包含dataset.json文件的,如果你有训练自己的数据集的需求,再另需更改。
##### 六、数据集预处理
此步骤对数据进行:裁剪crop,重采样resample以及标准化normalization,提取数据集指纹(一组特定于数据集的属性,例如图像大小、体素间距、强度信息等)。此信息用于设计三种 U-Net 配置。
nnUNetv2_plan_and_preprocess -d 502 --verify_dataset_integrity
运行后将在 nnUNet\_preprocessed 文件夹中创建一个以数据集命名的新子文件夹,包含预处理数据。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-YScKgGor-1692530073046)(image-1.png#pic\_center)]
##### 七、模型训练
1.更改epoch
nnUNet默认原始的epoch是1000,太久,我进入次目录改成50。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-DMoBYI3k-1692530073047)(image-2.png)]
2.输入训练命令
nnUNetv2_train Dataset502_Heart 2d 0
nnUNetv2_train Dataset502_Heart 3d_fullres 0 --c
分别意思是2d模式0折训练、3d全分辨率0折断点继续训练。
3.多卡训练
CUDA_VISIBLE_DEVICES=X nnUNetv2_train […]
指定GPU
-device DEVICE
##### 八、训练结果
1.训练后的模型写入/home/bai/environments/nnUNet/DATASET/nnUNet\_trained\_models这个路径下。
2.训练后得到的文件
debug.json:包含用于训练此模型的蓝图和推断参数的摘要。对调试有用。
model\_best.model/model\_best.model.pkl:训练期间识别的最佳模型的检查点文件。
model\_final\_checkpoint.model/model\_final\_checkpoint.model.pkl:最终模型的检查点文件(训练结束后)。这是用于验证和推理的。
networkarchitecture.pdf(仅当安装了hiddenlayer时!):一个pdf文档,其中包含网络架构图。
progress.png:训练期间训练(蓝色)和验证(红色)损失的图。还显示了评估指标的近似值(绿色)。这个近似值是前景类的平均Dice分数。
validation\_raw:在这个文件夹中是训练完成后预测的验证案例。summary.json包含验证度量(文件末尾提供了所有情况的平均值)。
training\_log:训练过程中不断打印,nnunet的loss函数默认是趋向-1的,也就是说在训练的过程中,我们通过每轮训练的日志可以查看到每轮的loss函数,这个数值应该是负数,而且越趋向于-1,效果越好。
感受一下50 epoch,不咋地啊
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-qgtv352N-1692530073048)(image-3.png)]
3.确定最佳U-Net配置
本文只说明了3d\_fullres的训练,完整的nnUNet流程还需要跑2d和3d级联的,然后进行三种的择优。不过从实际性能来说,一般3d级联≥3d>2d,是否跑其他两种需要自己考虑。
训练完所有模型后,使用以下命令自动确定用于测试集预测的U-Net配置:(这步没做)
nnUNet_find_best_configuration -m 2d 3d_fullres 3d_lowres 3d_cascade_fullres -t 1
##### 九、运行推理
查看推理命令相关参数含义
nnUNetv2_predict -h
nnUNetv2_predict -i /home/bai/environments/nnUNet/DATASET/nnUNet_raw/Dataset502_Heart/imagesTs -o /home/bai/environments/nnUNet/DATASET/predicted -d Dataset502_Heart -p nnUNetPlans -c 3d_fullres -f 0 --save_probabilities
新建predicted文件夹中存放的推理结果,与imagesTs文件夹里的数据一一对应。
**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**
**需要这份系统化的资料的朋友,可以添加V获取:vip204888 (备注大数据)**
![img](https://img-blog.csdnimg.cn/img_convert/3384a61e3301200b4aab41a60f065cc9.png)
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**
数据)**
[外链图片转存中...(img-Dg5KTUzL-1713313760047)]
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**