从你要保留的位开始看起,比如1.0010,保留三位就看小数点后面第三的位置。
1、RTN
首先看精度位后面一位,如果是0,全部截断,如果是1,就要参考四位后面的位置。如果后面还有1,那么就进1,如果没有1,就需要看精度前一位;
如果精度前一位是1,进1,如果是0,截断。
道理就是假设我们现在在精度位上,往后看,如果是0,那么你进位增加一个1,不进位增加0,最近的是0,所以不进位。
如果是1,那么从精度位.1变为精度位.0和(精度位+1).1谁大有待考量,所以要再往后看,如果后面有1,那么肯定是进位造成值的变化小,那么我们就进位。
如果是1,且后面是0,那么就需要看精度的前一位,这时候说明你不论是进位还是不进位造成的影响就是0.1的量,那就说如果精度位前是0,就进位,精度位是1,就不进位。
2、to zero
直接截断
3、down
正数截断,负数要看精度位后面的值,为0截断,为1进位
4.up
与up相反
5、rup
精度位后一位是1进位,0截断,四舍五入
8755

被折叠的 条评论
为什么被折叠?



