Python浮点数数据精度控制

最新推荐文章于 2023-06-23 03:38:25 发布

比特量化

最新推荐文章于 2023-06-23 03:38:25 发布

阅读量592

点赞数

分类专栏： Python3

本文链接：https://blog.csdn.net/bitquant/article/details/105502817

版权

Python3 专栏收录该内容

23 篇文章 2 订阅

订阅专栏

代码

import decimal
from decimal import Decimal, getcontext

if __name__ == '__main__':
    decimal.getcontext().prec = 2
    for i in range(4):
        x = i / 3
        print()
        print(x)
        print(decimal.Decimal(x))
        print("%0.2f"%x)
        print(eval("'%0." + str(a) + "f'" + "%x"))
        print(float("%0.2f"%x))

0.0
0
0.00
0.00
0.0

0.3333333333333333
0.333333333333333314829616256247390992939472198486328125
0.33
0.33
0.33

0.6666666666666666
0.66666666666666662965923251249478198587894439697265625
0.67
0.67
0.67

1.0
1
1.00
1.00
1.0