matlab十进制数据8bit量化,matlab 定点量化

转自http://hsanyi.blog.163.com/blog/static/5502232520111194658521/

浮点转换为定点的过程在Matlab中称为量化,使用quantizer和quantize两个函数完成。

(1)、quantizer用于定义数据的量化属性

(2)、quantize则按照quantizer定义的量化属性量化浮点数据。

下面举一个例子:

x = [3.5 1.5 6 20.8 -128.25 127.75];

qpath = quantizer('fixed','round','saturate',[10,2]);

fix_x = quantize(qpath,x);

运行后fix_x结果为:

fix_x =

3.5000    1.5000    6.0000   20.7500 -128.0000  127.7500

其中-128.25溢出了,这里设置溢出后为饱和输出,所以为-128。

具体关于quantizer和quantize函数的使用说明请参考Matlab的help文件。

假如一个浮点数为10.765,我们用一个总位宽为8bit,小数位宽为3bit的有符号数进行表示那么对应的最接近的二进制数为01010.110,对应的十进制数为10.75,量化误差为0.015。当然小数位宽越宽,对应的小数部分精度就越高。

对于一个数据总位宽为10bit,小数位为2bit。则量化的范围为:-128.0 ~ 128.75,量化的最小精度为0.25。

小数部分位数的选取时通过对比定点仿真与浮点仿真的结果得出的,一般最大设置为12bit即可,精度可以达到0.000244140625。

  • 0
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值