深度学习中loss不下降的原因——os.listdir()读取文件无序

深度学习中loss不下降的原因

其他原因就不赘述了，各种博客讲得很全面，这里记录困扰了我一周多的一个问题。

问题描述

除路径外代码完全相同，在windows下可以正常训练，但是在linux下loss总会收敛到某个值，不能正常训练。

问题原因

由于代码在2个平台的结果不一致，所以分析可能是某些地方的实现在windows和linux的结果不同，追溯之前的代码，进行无数次实验发现，我的dataset类在某次更新之后使用了os.listdir()进行数据的读取，而os.listdir()就是问题的罪魁祸首。

问题解决

经查询，发现os.listdir()在windows和linux的结果确实不同，windows返回的结果是有序的，但是linux返回的结果是无序的，所以造成了样本与标签不对应的情况，于是loss就会停留在一个固定的值。

参考：
踩坑记：Linux下os.listdir()读取文件夹内文件乱序