项目的自动化测试用例中,数据库某条金额数据查询预期结果是查询前多2000.01元
譬如:测试该用例前做了前置sql查询获取金额为5000元,我的测试用例是增加2000.01元,预期执行用例后,在数据库查询到的金额应该为7000.01元(#money#+2000.01)
对于这种用例的处理原本只是获取前置sql查询的内容,来替换#money#值,通过eval()来进行字符串转数字 以及 运算操作
但实际通过eval后得到的7000.00999999999的无限小数,导致断言失败
这是因为我们在运算的时候没有确定尾数导致,python会把我们的数据都先转换成二进制,然后再进行计算,例如经典的0.1+0.2并不等于0.3而是0.30000000004
Python 3.9.1 (tags/v3.9.1:1e5d33e, Dec 7 2020, 17:08:21) [MSC v.1927 64 bit (AMD64)] on win32
Type "help", "copyright", "credits" or "license" for more information.
>>> print(0.1+0.2)
0.30000000000000004
>>> 0.1+0.2
0.30000000000000004
如何解决?
我们可以在用例excel中把原本的expected:#money#+2000.01更改为round(#money#+2000.01,2)在代码除eval后,就会将计算得到的数据四舍五入并保留两位小数得到我们期待的