无损定点化，fpga数据定点化误差

已于 2022-04-13 21:44:33 修改
阅读量3k 收藏 7
点赞数 4
分类专栏： fpga理论 文章标签： fpga
于 2021-05-24 10:17:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yan1111112/article/details/117217525
版权
本文详细探讨了无损量化的概念，通过实例解释如何通过不断乘2来确定合适的量化位数，以确保量化误差小于量化精度的一半。在13.948的例子中，经过计算验证，最终确定需要三位量化小数才能满足误差要求。这个过程对于理解数字信号处理中的量化误差控制具有重要意义。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

无损量化：量化误差小于量化精度的一半。
如：13.948
整数13，需要4位量化
小数部分一直乘2，直到第一位小数小于5，满足条件，因为第一位小数小于5就说明量化误差小于精度的一半。
量化精度位1/2^N,N位小数部分量化位数。
1、1位量化
0.948*2=1.896。

一个的量化精度为1/2=0.5;
误差为0.896/2=0.448;
0.448/0.5=0.896>0.5,所以1位量化小数不行。

2、两位量化
1.896*2= 3.792

3、三位量化
3.792*2=7.584

4、四位量化
7.584*2=15.168

四个的量化精度为1/16;
误差为0.168/16;
（0.168/16）/（1/16）=0.168<0.5,所以三位量化小数可以。

FPGA中浮点数的定点化处理技术及高斯模板定点化处理方法
H19981118的博客
04-27 4081
定点化处理
FPGA/数字IC秋招笔试面试006——数据定点无损量化问题（2022届）
DengFengLai123的博客
03-11 1738
【转载请注明出处】 （大疆2020芯片开发工程师A卷） 对12.918做无损定点化，需要的最小位宽是多少位，位宽选择11位时的量化误差是多少？ A. 12位，0.0118 B. 13位，0.0039 C. 12位，0.0039 D. 13位，0.0118 答案：C，12位，误差0.0039 解析： 12.918，定点量化时对整数部分和小数部分分别量化。 （1）整数部分12 ，最少使用4位量化，4-bit表示范围0~15； （2）小数部分0.918 ，假设12.918整体使用12位量化，整数已使用4-bit，
数据做无损定点化，需要的最小位宽是多少位？
qq_45803095的博客
07-20 764
计算数据做无损定点化需要的最小位宽。
一道简单的笔试题_浮点数无损定点化
weixin_42905573的博客
08-15 1721
浮点数无损定点化量化为定点数格式：m位定点数，n个小数位，无符号位，那么n称作量化系数对于0111表示的定点数：如果设定小数点位于最后一位，即0111. 则其表示7，最大精度1；如果设...
笔试面试 浮点数定点化的量化误差问题
weixin_45912567的博客
08-15 1894
本文参考公众号“数字ICer”的文章推送 问题来自大疆的笔试题： 解析：无论小数有多少位，它的量化精度都是以5结尾的，因此量化12.918肯定不能做到真正的无损量化。根据数学上的概念，只要误差小于精度的一半，就可以认为是无损的。 对于本题： 整数部分是12，需要四位量化 如果量化位宽12位，则小数部分8位，0.918*2^8=235.008，舍去小数位得到235；235再反量化得到235/256=0.00003125;；量化精度为1/256=0.0039,量化误差小于量化精度的一半，属于无损定点化。 如
Xilinx FPGA数字信号处理系统设计指南学习笔记——六 量化误差、量化误差信号及信噪比
weixin_46154042的博客
01-29 1469
由此可见前文对ADC的量化误差e(n)与系统实际输出是有关的，及系统输出是受控的、可调节的，及ADC等效系统是一个闭环系统的推测是正确的。1.量化误差的定义：Quadratuer Error，指由于ADC对模拟信号量化而产生的误差，该误差最大可以达到量化等级的一半。在这里笔者认为是用其记录各个时间点系统产生的量化误差的信号，将量化误差信号与实际信号进行叠加即可完成对系统的误差补偿。量化误差信号：实际并不存在的，人为引入的信号，表示了采样误差信号电压与时间的关系，引入的目的是便于对系统进行分析。
浮点数的无损定点化
qq_40379102的博客
07-20 1199
浮点数的无损定点化
十进制小数定点化
CLL_caicai的博客
08-25 2255
1、题目 在FPGA中做小数乘法时，一般需要对定点小数量化处理。 量化过程中首先需要确定量化的位宽，位宽越大量化的精度越高。 如题所述，对12.918做无损定点化，首先需要确定对整数部分的量化位数。整数为12，无损量化必须采用4bit； 小数部分为0.918，假如采用12bit位宽，整数部分4bit，那么小数部分只有8bit。8bit所能表达的最大的整数为255（注意，定点小数在FPGA运算过程中是没有小数点的，比如12.918，实际存储的是12.918的二进制形式，所以8bit表示小数部分最大为
verilog 浮点数转定点数_校招基础——浮点数的定点化
weixin_39531604的博客
02-22 2993
一、概念1、浮点数：小数点位置是漂浮不定的。例如：浮点数运算 1.1 * 1.1 = 1.21，小数点位置发生了变化。IEEE 754 规定，浮点数的表示方法为：最高的 1 位是符号位 s，接着的 8 位是指数E，剩下的 23 位为有效数字 M。2、定点数：小数点的位置是确定的。例如：定点数运算 1.1 * 1.1 = 1.2，小数点的位置没有变化。定点的意思是，小数点固定在 32 位中的某个位置...
量化及定点化模型压缩常见方法、特定及优缺点整理
lqfarmer的博客
02-07 569
模型压缩简答说就是将庞大的深度学习模型进行压缩，常见方法包括五大类，分别是剪枝、量化、正则化、知识蒸馏、条件计算。 量化是模型压缩常用方法之一，本文不完全包括了一些神经网络Fixed-Point Training（定点化训练）相关的方法进行了详细整理，拆分，并对优缺点进行了对比分析。 资源整理自网络，资源获取见源地址：https://github.com/A-suozhang/awesome-quantization-and-fixed-point-training ...
FPGA浮点数定点化
weixin_30868855的博客
10-25 638
　　因为在普通的fpga芯片里面，寄存器只可以表示无符号型，不可以表示小数，所以在计算比较精确的数值时，就需要做一些处理，不过在altera在Arria 10 中增加了硬核浮点DSP模块，这样更加适合硬件加速和做一些比较精确的计算。 　　浮点数和定点数的区别：定点数的小数点是固定的，而浮点数的小数点的位置不确定，举个例子，定点数 1.1*1.1 = 1.2（定点一位小数），浮点数1.1*1.1...
IC基础：解决浮点数无损定点化（计算机组成原理部分）
acmgotoac的博客
03-23 582
首先应该清楚什么是浮点数什么是定点数？ 浮点数：小数点位置不确定的数，例如1.1 * 1.1 = 1.21，小数点的位置发生了移动。 浮点数的表示方法：符号位+指数部分+尾数（尾数为 1.尾数B 的形式）参考 定点数：小数点的位置是固定的，在verilog中，我们可以人为约定小数点的位置和符号位的位置，类比补码，其实都是认为赋予它权重的，实际上只是一串二进制码而已。 浮点数定点化 参考此文 步骤：先左移扩大，左移位数由定点化后的小数部分尾数n决定，取整，量化精度为2的n次方分之1 1中舍去部分乘
定点量化和无损量化
re_call的博客
03-19 3752
硬件电路里面数据位宽都是一定的。在处理数据流是，数据的位宽也是一定的。所以浮点数需要先转变成定点数进行运算。 举例说明。12.918，定点量化时对整数部分和小数部分分别量化。 （1）整数部分12，最少使用4位量化，4-bit表示范围0~15； （2）小数部分0.918，假设12.918整体使用12位量化，整数已使用4-bit，则小数部分还能使用8-bit量化，能够表示2的8次方共计256个刻度，每个刻度的间隔是1/256 = 0.00390625，这个值也就是量化精度。 小数0.918需要多少个刻度
定点数无损量化
qq_31006535的博客
05-11 6140
定点数量化量化公式例题 量化公式 若需要量化成的定点数格式：m位定点数，n个小数位，无符号位，那么n称作量化系数，则将一个浮点数量化成该格式的定点数公式为 〖num〗_fix=floor(num_float2^n) floor为向下取整函数（舍弃小数位），该格式的定点数最小能够表示的数为1/2^n , num_fix为量化之后的m位定点数，表示的数为num_fix1/2^n 可以这样理解：量化系数n决定了我们逻辑上认为01序列中可表示的单位值为1/2^n ，而CPU读取的数字表示有多少份单位值 举例来说，
FPGA设计之浮点数的定点化
Arist.
04-11 1341
FPGA只能处理定点小数，用于需要高精度快速运算的地方。 主要分为三步： 一. 根据计算数值范围/精度设计数据结构，包括位数/有无符合/整数小数分别用多少位来表示 二. 计算精度，量化误差，看看能否满足需求 三. 进行量化转换，调用IP核或者设计移位计算模块 举例 例一 2.918 * 3.1415926 转成定点数需要定义，小数和整数的位数。 （1）3位整数，12位的小数，最高位为...
量化误差与噪声误差
qq_20785973的博客
12-18 5175
一开始就器件选型，总是不知道从何开始，都知道量化误差比输入噪声误差小一个数量级就好，但是一直搞不懂什么是噪声误差，到底怎么去看噪声误差。      量化误差的一个概念：              a^2/12           其中a是量化步进。      那输入噪声误差怎么看呢？一下是我的理解，不知道正确不。。。      输入噪声也叫等效输入噪声，一般由电子元器件工作热噪声产生的。
FPGA中浮点数的定点化笔记
qq_38318540的博客
08-10 4421
FPGA中浮点数的定点化笔记 关于基本相关知识参考该博客 本文只针对FPGA中相关类型题目的做法思考整理，方便查看和复习，以后有时间再深入研究。 浮点数的定点化 FPGA 1.基础概念 浮点数: 简单来说，就是小数点的位置不是固定的 定点数: 简单来说，小数点的位置是固定的，也就是整数位宽与小数的位宽是固定的 以下部分内容摘自该博文 因为在普通的fpga芯片里面，寄存器只可以表示无符号型，不可以表示小数，所以在计算比较精确的数值时，就需要做一些处理，不过在altera在Arria 10 中增加了硬核浮点DS
定点数与浮点数
Kuekua的专栏
09-30 2057
转载自：定点数与浮点数简介：本文主要介绍了定点数和浮点数的概念，定点数和浮点数的加减运算（比如34.6f-34.0f），最后介绍了浮点数的特殊值。I.定点数所谓定点格式，即约定机器中所有数据的小数点位置是固定不变的。通常将定点数据表示成纯小数或纯整数，为了将数表示成纯小数，通常把小数点固定在数值部分的最高位之前；而为了将数表示成纯整数，则把小数点固定在数值部分的最后面，如下图所示：图中所标示的小数点
定点数无损量化方面理解
little_ox的博客
07-21 388
也有同学的不同理解，但是殊途同归，最终意思都是一致的， https://blog.csdn.net/qq_31006535/article/details/106064595 https://blog.csdn.net/CLL_caicai/article/details/108229960
12.918无损定点化
最新发布
01-03
### 12.918 的无损定点化方法 对于数值 `12.918` 进行无损定点化处理，可以遵循如下原则： #### 确定整数与小数的位宽 假设选择符号位为 1 位，整数部分为 4 位，小数部分为 12 位，则总共占用 17 位。这种配置能够确保足够的精度来表示给定的小数值。 #### 计算最大值和最小值 在这种情况下，最大正数将是 \( (2^{(4-1)} - 1) + \frac{2^{12} - 1}{2^{12}} = 7 + (\text{几乎等于 } 1)\)，即大约为 8；而最小负数则会是 `-8`[^1]。 #### 转换浮点数至定点数 为了实现无损转换，需要找到最接近原始浮点值得定点数表达形式而不引入舍入误差。具体操作如下所示: ```python def float_to_fixed_point(value, int_bits=4, frac_bits=12): scale_factor = 2 ** frac_bits fixed_value = round(value * scale_factor) # Ensure the value fits within the specified bit width max_val = ((1 << (int_bits - 1)) - 1) + ((1 << frac_bits) - 1)/(1 << frac_bits) min_val = -(1 << (int_bits - 1)) if not(min_val <= value <= max_val): raise ValueError(f"value {value} out of range [{min_val}, {max_val}]") return fixed_value fixed_12_918 = float_to_fixed_point(12.918) print(f"The fixed-point representation of 12.918 is: {fixed_12_918}") ``` 上述代码定义了一个函数 `float_to_fixed_point()` 来完成从浮点到固定点的转换，并打印出了 `12.918` 对应的定点数表示结果。注意这里采用了四舍五入的方式(`round`)以尽可能减少量化噪声的影响。 通过这种方式，可以在不损失精度的情况下将浮点数 `12.918` 表达成适合硬件计算的形式。
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值