浮点数的无损定点化

已于 2022-07-20 10:50:01 修改
阅读量954 收藏 6
点赞数 3
文章标签： 硬件工程
于 2022-07-20 10:49:01 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40379102/article/details/125887100
版权
本文介绍了浮点数与定点数的概念，重点讲解了Verilog中定点数的表示方式，如Qn格式，以及无损定点化的定义。通过示例解释了如何将0.918转化为Q8格式的定点数，并验证了其无损定点化的正确性，量化精度和误差分析是关键点。
摘要由CSDN通过智能技术生成

浮点数： 小数点的位置是不定的。
定点数： 小数点的位置是确定的。
Verilog中表示定点数： 最高位符号位+整数位+n位小数位，称为Qn格式，n表示小数点后有n位小数。定点化后1/Qn称为量化精度。
无损定点化： 量化误差小于量化精度的一半，称为“无损定点化”。

例： 0.918表示为Q8格式定点数
0.918 = 0.918*28=235.008，四舍五入取整后等于235
量化精度为1/28，即以1/28为单位，0.918等于235.008个1/28，定点化后与原0.918的误差为0.008个1/28，小于0.5个1/28，因此是无损定点化。

一只甜皮鸭
关注
  • 3
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
定点数无损量化
qq_31006535的博客
05-11 5847
定点数量化量化公式例题 量化公式 若需要量化成的定点数格式：m位定点数，n个小数位，无符号位，那么n称作量化系数，则将一个浮点数量化成该格式的定点数公式为 〖num〗_fix=floor(num_float2^n) floor为向下取整函数（舍弃小数位），该格式的定点数最小能够表示的数为1/2^n , num_fix为量化之后的m位定点数，表示的数为num_fix1/2^n 可以这样理解：量化系数n决定了我们逻辑上认为01序列中可表示的单位值为1/2^n ，而CPU读取的数字表示有多少份单位值 举例来说，
mp3音频定点编码实现
04-27
在MP3编码中，定点化可以提高计算效率，减少内存需求，但需要精确的算法来避免失真。 3. **.wav文件**：.wav是无损音频格式，通常用于存储原始音频数据，因为它保留了所有的原始音频信息，但文件大小较大。在编码...
一道简单的笔试题_浮点数无损定点化
weixin_42905573的博客
08-15 1635
浮点数无损定点化量化为定点数格式：m位定点数，n个小数位，无符号位，那么n称作量化系数对于0111表示的定点数：如果设定小数点位于最后一位，即0111. 则其表示7，最大精度1；如果设...
定点化与模型量化（一）
最新发布
zcg1942的博客
05-17 842
事实上，模型量化一开始就是为了压缩模型参数，韩松ICLR2016使用K-Means聚类，以类中心代替属于该类的所有样本，低bit只需要对类中心表示，从而可以使得保留更多的空间来表示更多的其他数据。既然本质上是定点化，那么模型量化的好处和定点类似，都是损失精度的代价下，有更快的速度，更小的内存，更小的功耗。以常见32bit浮点型到8bit为例，模型大小直接变成了原来的1/4，更重要的是因为使用了整型，可以使用SIMD指令集，而SIMD在移动端的优化已经非常充分了，速度可以加快2~4倍。
连载：编写高效代码(10) 在精度允许的条件下，将浮点数定点化
木兮清扬的博客
12-08 5174
浮点指令要比定点指令慢很多，功耗也大很多，在精度要求不那么高的情况下，就可以将浮点数定点化，用定点指令来代替浮点指令，一个典型的例子就是alpha混合。         《反恐精英》是很多人非常喜欢的游戏，在下面的游戏截图中，一个人扔了个烟雾弹，画面呈现出半透明的烟雾效果，随着时间的推移，烟雾逐渐散去，画面恢复到原来的状态。         这种效果如果让美工来实现，那会把人累死，其实这种效果
无损定点化，fpga数据定点化误差
yan1111112的博客
05-24 2681
无损量化：量化误差小于量化精度的一半。 如：13.448 整数13，需要4位量化 小数部分一直乘2，直到第一位小数小于5，满足条件，因为第一位小数小于5就说明量化误差小于精度的一半。 量化精度位1/2^N,N位小数部分量化位数。 1、两位量化 0.448*4=1.792。 两个的量化精度为1/4=0.25; 误差为0.792/4=0.198; 0.198/0.25=0.796》0.5,所以两位量化小数不行。 2、三位量化 1.792*2= 3.584 3、四位量化 3.584*2=7.168 四个的量化精度
浮点数的定点化
weixin_40673765的博客
03-07 753
举个例子；有一个16位的数，第15位是符号位，14.13.12位是整数位，11~0位是小数位； 那麽最大值+32767，最小值-32768 其中第14，13，12位最大能表示7，小数最大12位能表示多大精度呢？ 1除以2的12次方=0.000244140625 ...
IC基础：解决浮点数无损定点化（计算机组成原理部分）
acmgotoac的博客
03-23 488
首先应该清楚什么是浮点数什么是定点数？ 浮点数：小数点位置不确定的数，例如1.1 * 1.1 = 1.21，小数点的位置发生了移动。 浮点数的表示方法：符号位+指数部分+尾数（尾数为 1.尾数B 的形式）参考 定点数：小数点的位置是固定的，在verilog中，我们可以人为约定小数点的位置和符号位的位置，类比补码，其实都是认为赋予它权重的，实际上只是一串二进制码而已。 浮点数定点化 参考此文 步骤：先左移扩大，左移位数由定点化后的小数部分尾数n决定，取整，量化精度为2的n次方分之1 1中舍去部分乘
定点数无损量化方面理解
little_ox的博客
07-21 322
也有同学的不同理解，但是殊途同归，最终意思都是一致的， https://blog.csdn.net/qq_31006535/article/details/106064595 https://blog.csdn.net/CLL_caicai/article/details/108229960
无损压缩算法代码包
06-01
在无损压缩中，有时会遇到浮点数的处理问题。FPA是一种使用定点运算来代替浮点运算的方法，它可以在保持精度的同时降低存储需求。 7. **Delta编码（Delta Coding）** Delta编码通过计算连续数值之间的差值来进行...
0294、高清电视音频解码的定点DSP 实现.zip
01-25
定点DSP是一种专门设计用于执行数学运算的微处理器，它的内部数据类型通常为固定点数，而非浮点数，因此在处理大量数字信号处理任务时能提供高速和低功耗的解决方案。在高清电视音频解码中，定点DSP可以高效地执行...
基于LZW编码的卷积神经网络压缩方法.pdf
09-25
首先，浮点转定点是将模型中的浮点数权重转换为固定点表示的过程。在深度学习中，权重通常以浮点数形式存储，这占据了大量内存。通过将这些数值转换为精度较低的定点数，可以显著减小模型的存储需求，但可能会对模型...
导论填空.docx
11-10
2. 数的表示范围：浮点数的表示范围通常大于定点数。 3. 奇偶校验：确保代码中1的数量为奇数，通过在最高位添加1以达到此目的。 4. 原码表示：正数原码与真值相同，负数原码是真值的绝对值，但符号位为1。 5. 补码...
浮点数的精度误差？
忆林的博客
12-20 423
首先可以这么说就，这是所有语言的通病。 各位可以看看包装类语言和其他语言的精度区别 这边例举java与C的例子： 先放java的 然后这个是C的 由以上可以看出，明显来说包装类的这一方面做的会比较好。 其实低层来说的话，是因为高精度类型转换为二进制的浮点数可能会是无限循环小数。但由于浮点数精度有限被强行截断，所以转回十进制输出的数据会有误差。 那么如何优化这个问题 我们只需要将数据的大小拉高，将大部分数据转为计算机可以记住的int型数据然后后面在进行一个计算结束的时候将它精度在拉回.
【转载】浮点数运算的定点数编程
倔强的咸鱼
07-21 2899
我们使用的处理器一般情况下，要么直接支持硬件的浮点运算，比如某些带有FPU的器件，要么就只支持定点运算，此时对浮点数的处理需要通过编译器来完成。在支持硬件浮点处理的器件上，对浮点运算的编程最快捷的方法就是直接使用浮点类型，比如单精度的float来完成。但是在很多情况下，限于成本、物料等因素，可供我们使用的只有一个定点处理器时，直接使用float类型进行浮点类型的运算会使得编译器产生大量的代码来完成
浮点数定点化
qq_45926544的博客
12-27 526
吞吐量
FPGA中浮点数的定点化笔记
qq_38318540的博客
08-10 3529
FPGA中浮点数的定点化笔记 关于基本相关知识参考该博客 本文只针对FPGA中相关类型题目的做法思考整理，方便查看和复习，以后有时间再深入研究。 浮点数的定点化 FPGA 1.基础概念 浮点数: 简单来说，就是小数点的位置不是固定的 定点数: 简单来说，小数点的位置是固定的，也就是整数位宽与小数的位宽是固定的 以下部分内容摘自该博文 因为在普通的fpga芯片里面，寄存器只可以表示无符号型，不可以表示小数，所以在计算比较精确的数值时，就需要做一些处理，不过在altera在Arria 10 中增加了硬核浮点DS
操作系统系列十 —— 浮点数存储和定点化逻辑
weixin_37620587的博客
06-12 303
浮点数存储逻辑，以及寄存器的定点化存储逻辑以及转换关系
定点化资料
heavywater的专栏
03-26 1839
http://www.dsprelated.com/showmessage/48180/1.php http://www.mathworks.com/products/demos/shipping/fixedpoint/fi_radix2fft_demo.html?product=PO ************************************************
verilog 浮点数转定点数_FPGA浮点数定点化
05-17
在 FPGA 中，通常使用定点数进行数值计算，因为定点数可以更高效地实现。如果需要对浮点数进行计算，需要将浮点数转换为定点数。下面是一种简单的方法来将浮点数转换为定点数。 假设我们要将一个浮点数 x 转换为定点数 Q，其中 Q 有 n 位整数部分和 m 位小数部分，总共有 n+m 位。则可以按照以下步骤进行转换： 1. 将浮点数 x 乘以 2^(m)，得到一个整数 y。 2. 将整数 y 左移 n 位，得到一个 n+m 位的整数 z。 3. 将整数 z 再除以 2^(m)，得到定点数 Q。 这个方法的原理是将浮点数的小数部分转换为整数部分，然后将整数部分左移 n 位，再将小数部分除以 2^(m)，得到定点数的小数部分。 在 Verilog 中，可以使用 shift 和 divide 操作来实现这个方法。以下是一个示例代码： ```verilog module float2fix(input [31:0] x, output reg [15:0] Q); integer y, z; always @* begin y = x * 65536; // 2^16 = 65536 z = y << 16; // shift left by 16 bits Q = z >> 16; // shift right by 16 bits end endmodule ``` 这个例子将浮点数 x 乘以 2^16，然后将整数部分左移 16 位，最后将结果右移 16 位得到定点数 Q。这个例子中，定点数 Q 有 16 位整数部分和 16 位小数部分。 需要注意的是，这个方法只是一个简单的转换方法，可能会存在精度损失。如果需要更高精度的定点数转换，可以使用更复杂的算法，例如 CORDIC 算法或者牛顿迭代法。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值