lunch_morning的博客

原创 2020-12-26

MySql float类型精确度计算原理 单精度 float(M,D) M 是数字是总位数，D是小数点后面的位数，如果M=7,D=4,表示后面的小数位是四位，就算输在多位数但最终只会保留四位，前面的M只能最大输3位数， 整数位能输多少位数是M-D来算，M最大能等于21位 若M和D省略, 根据硬件允许的限制来保存值，当前面的整数位1位时候后面的小数可以精确到5位，但当前面的整数为4位时后面的小数只能精确 到4位。 小数点后的位数和小数点前的位数相加不超过7位就能精确的保存，要是小数点前面四位，后面也就只能保存