- 博客(2)
- 资源 (1)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 固定点运算和它的对立面浮点运算
最近遇到这样的一个问题，就是计算的时候和我们平常时候的计算不太一样：正常情况下，计算的结果应该是： xkwert = (100000*5151.11) /100170 = 5142.36 但是在某个标准程序里面发现，结果却是xkwert = 4402.66几经波折，终于找到了根源，这个其实是两种不同
2014-03-03 16:07:50
2075
1
TA创建的收藏夹 TA关注的收藏夹
TA关注的人