NSString转换float的精度问题

当使用NSString转换为float时,可能会遇到精度丢失的问题,如"0.01"转为0.009999799。这是因为float类型无法精确表示某些数值。为了解决这个问题,可以改用double类型,它提供了更高的精度。
摘要由CSDN通过智能技术生成

NSString 转换 float 的精度问题, 换double类型可以解决


@”0.01” 转换成float时, 经常会变成 0.009999799 这种形式, 因为float类型无法精准保存, 系统会选一个接近的值来代替.

而double类型则可以有更好的精度.

http://stackoverflow.com/questions/9328260/converting-nsstring-to-float-adds-in-decimal-places

Your issue seems to be that you don’t understand how floats are stored in memory and don’t know that floats aren’t precise.

Exact values often can’t be stored and so the system picks the closest number it can to represent it. If you look carefully, you can see that each of the outputted numbers is very close to your inputted values.

For better accuracy, try using double instead. Double does encounter the same problems, but with

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值