举例说明:fixdt(1,8,3)
字长为8位,小数部分使用3位数据,1代表有符号位
数据的分辨率为 1/2^3=0.125
也就是说 后面三位为小数位,前面的就为整数位
假如要表示的数为-2.75
10010110加粗部分为小数位 0.75/0.125=6
二进制表示负数 使用补码 保留符号位 其余位置取反后加+1
取反 11101001+1之后 11101010
为什么选固定点数据类型
因为固定点数据类型配置模型生成的代码,相对于浮点数据类型占用较少的内存空间,以更快的速度执行
matlab固定点数据类型fixdt
于 2022-07-05 14:57:09 首次发布