Decimal类型是用于表示高精度小数的一种数据类型,它可以提供比Double和Float更高的精度,并避免了使用浮点数时出现的精度丢失问题。
1、转换double
//10的x次方
let p = pow(10, x)
let b = Double(truncating: p as NSNumber)
- 设置精度和舍入规则
在使用Decimal类型进行计算时,可以通过设置精度和舍入规则来控制计算结果的精度和小数位数。可以使用DecimalBehavior协议或NSDecimalNumberHandler类来实现精度和舍入规则的设置。
例如,可以使用NSDecimalNumberHandler来将小数点后保留两位小数,同时采用四舍五入的方式进行舍入:
let num1: Decimal = 5.876
let num2: Decimal = 2.345
let handler = NSDecimalNumberHandler(roundingMode: .plain, scale: 2, raiseOnExactness: false, raiseOnOverflow: false, raiseOnUnderflow: false, raiseOnDivideByZero: false)
let result = (num1 + num2).rounded(accordingToBehavior: handler)
// 结果为8.22
版权声明:本文为CSDN博主「三岁牧羊」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/m0_38103873/article/details/130380348