习题9-3 平面向量加法
在做这个题目的时候,没有考虑到当结果大于-0.05但仍为负数时候,会出现-0.0这样的情况
只有绝对值大于0.05,四舍五入是0.1,就没负数的情况
所以当绝对值小于0.05的时候,直接处理成0.
但是我数据定义的类型是单精度,运行依然报错。搜索了大佬的代码,发现数据类型应该是双精度。
因为单精度在换算成二进制的时候舍弃的部分比双精度多,所以产生的误差也就更多。具体的换算可以看这篇笔记 Java中 float、double使用注意问题
习题9-3 平面向量加法
在做这个题目的时候,没有考虑到当结果大于-0.05但仍为负数时候,会出现-0.0这样的情况
只有绝对值大于0.05,四舍五入是0.1,就没负数的情况
所以当绝对值小于0.05的时候,直接处理成0.
但是我数据定义的类型是单精度,运行依然报错。搜索了大佬的代码,发现数据类型应该是双精度。
因为单精度在换算成二进制的时候舍弃的部分比双精度多,所以产生的误差也就更多。具体的换算可以看这篇笔记 Java中 float、double使用注意问题