matlab 定点量化

转自http://hsanyi.blog.163.com/blog/static/5502232520111194658521/

浮点转换为定点的过程在Matlab中称为量化,使用quantizer和quantize两个函数完成。

(1)、quantizer用于定义数据的量化属性

(2)、quantize则按照quantizer定义的量化属性量化浮点数据。

    下面举一个例子:

x = [3.5 1.5 6 20.8 -128.25 127.75];
qpath = quantizer('fixed','round','saturate',[10,2]);
fix_x = quantize(qpath,x);

    运行后fix_x结果为:

fix_x =

    3.5000    1.5000    6.0000   20.7500 -128.0000  127.7500

    其中-128.25溢出了,这里设置溢出后为饱和输出,所以为-128。

    具体关于quantizer和quantize函数的使用说明请参考Matlab的help文件。

    假如一个浮点数为10.765,我们用一个总位宽为8bit,小数位宽为3bit的有符号数进行表示那么对应的最接近的二进制数为01010.110,对应的十进制数为10.75,量化误差为0.015。当然小数位宽越宽,对应的小数部分精度就越高。

    对于一个数据总位宽为10bit,小数位为2bit。则量化的范围为:-128.0 ~ 128.75,量化的最小精度为0.25。

    小数部分位数的选取时通过对比定点仿真与浮点仿真的结果得出的,一般最大设置为12bit即可,精度可以达到0.000244140625。


展开阅读全文

没有更多推荐了,返回首页