浮点数的存储方法—使用分数

最新推荐文章于 2023-02-22 12:10:52 发布

yessober

最新推荐文章于 2023-02-22 12:10:52 发布

阅读量551

点赞数

文章标签：存储 float

本文链接：https://blog.csdn.net/yessober/article/details/7544934

版权

浮点数如果使用一个数据存储单元来表示例如float，在一次或多次计算后进行四舍五入会有精度丢失，假如使用两个存储单元（例如两个整数）来表示则可以避免这一情况，把一个浮点数表示为一个等价的分数，分别用这两个整数来表示分子和分母，运算时用这两个整数参与，不会导致精度丢失。可能数据溢出的概率会增大，这可以在具体业务中选择较大的数据类型来解决，比如选择64位整数。例如有个运算过程是1除以3，如果选用一个浮点类型保存，即为0.333333333333，总有一些位数要舍掉，而用两个整数保存，即可存储为1、3，不会有精度丢失。