神经网络关于GPU和CPU计算精度的问题

之前遇到了这个问题，这里记录一下，上一篇我提到了计算误差问题，我以为是随机数的问题，确实，随机数也没设置对，所以我对随机数进行了设置，效果是两个计算精度一样了。但是，当我在此基础上使用了某些计算量大的算法时，计算精度又不行了，随机数这个时候一样的，所以我又开始怀疑计算精度了，并且我觉得这确实是存在的。

说完计算精度了，说一下解决方案：减小模型大小，我是将隐藏层两层1500个神经元的神经网络设置为两层500个神经元的神经网络，这个时候计算精度就回来了，模型计算也快了。

想了想这个问题的原因，应该是模型太大导致的计算误差不断累积，导致最后误差越来越大，以致于结果不理想。减小模型后可能这种情况就大大减小了。