今天用了python的浮点数
发现了个问题
对于浮点数来说没有一个精确值,我在检查归一化的结果,应该sum为1.0.
但是!!!有的行结果是1.00000000000001
所以不能用 “==” 或者“!=”
要用标准值减去实际值,只要残差足够小就是可以的啦~
今天用了python的浮点数
发现了个问题
对于浮点数来说没有一个精确值,我在检查归一化的结果,应该sum为1.0.
但是!!!有的行结果是1.00000000000001
所以不能用 “==” 或者“!=”
要用标准值减去实际值,只要残差足够小就是可以的啦~