float为单精度,内存中占4个字节,有效数位是7位(因为有正负,所以不是8位)
double为双精度,占8个字节,有效数位是16位
python\C\matlab中的浮点数是采用IEEE754标准存储的,
python运算会出现的小bug
python浮点数默认精度是float
matlab浮点数默认精度是double,且无法修改
参考:
float为单精度,内存中占4个字节,有效数位是7位(因为有正负,所以不是8位)
double为双精度,占8个字节,有效数位是16位
python\C\matlab中的浮点数是采用IEEE754标准存储的,
python运算会出现的小bug
python浮点数默认精度是float
matlab浮点数默认精度是double,且无法修改
参考: