- 博客(1)
- 收藏
- 关注
原创 关于NumPy和Matlab浮点数误差的一些操作
网上找了一些解决此问题的办法,如:1、使用decimal模块,2、python中使用128位浮点数。原本在matlba和numpy中相同的float64数组,在做FFT变换后,发生了一些细微的改变。结论:matlab程序的最终实验结果是比较正确的,在转换到python上后实验结果非常差,由此能判断numpy的浮点数计算存在更大的误差。最近在将matlab代码转为python代码时,出现了一些问题,主要是在浮点数的误差方面的问题。
2023-12-05 17:26:12 476
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人