习题9-3 平面向量加法

在处理数学计算时,尤其是涉及平面向量加法的问题,博主遇到了单精度浮点数导致的精度误差。当数值接近0.05边界时,四舍五入规则可能导致负数出现。博主发现数据类型应当选择双精度而非单精度,因为双精度在二进制转换时保留的精度更高,从而减少误差。这个问题的解决关键在于理解浮点数在不同数据类型下的表示和精度差异。
摘要由CSDN通过智能技术生成

习题9-3 平面向量加法

在做这个题目的时候,没有考虑到当结果大于-0.05但仍为负数时候,会出现-0.0这样的情况

只有绝对值大于0.05,四舍五入是0.1,就没负数的情况
所以当绝对值小于0.05的时候,直接处理成0.

但是我数据定义的类型是单精度,运行依然报错。搜索了大佬的代码,发现数据类型应该是双精度。
因为单精度在换算成二进制的时候舍弃的部分比双精度多,所以产生的误差也就更多。具体的换算可以看这篇笔记 Java中 float、double使用注意问题

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值