关于数据位数及标识范围应该注意的问题

最新推荐文章于 2021-01-26 02:20:55 发布
最新推荐文章于 2021-01-26 02:20:55 发布
阅读量157 收藏
点赞数
分类专栏： FPGA学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43909615/article/details/107442141
版权

在这里插入图片描述
像上图中，num_frequency为18位，CLK_FS为25位，fx_cnt和fs_cnt都是32位
虽然CLK_FS / fs_cnt * fx_cnt = CLK_FS * fx_cnt /fs_cnt ， 但是等式右边先算乘法，很容易超出这两个数原本位数所表示的最大范围，所以会造成截断数据，进而所得出的结果是不对的。

一上午因为这一个错误改了好久。

陆羽泡的柠檬茶
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
python中int数据范围_python int 范围
weixin_39991055的博客
11-27 1970
广告关闭腾讯云11.11云上盛惠 ，精选热门产品助力上云，云服务器首年88元起，买的越多返的越多，最高返5000元！开发准备cas 的 python sdk 包含了用于访问和操作 cas 的所有 api。 相关资源github 地址 ，欢迎贡献代码以及反馈问题。 环境依赖python 2.7安装sdk安装 sdk 的方式有两种：pip 安装和手动安装。 方式一：使用pip安装pip install...
数据分析 --- 数据可视化需要注意的问题
qq_43709590的博客
03-23 2774
一、可视化数据的思路 明确分析结论 将分析过程用文字表述 将文字转化为图表 检查、调整图表 展示图表 二、可视化的本质和好处 本质：将分析的结论用简洁直白的方式展现出来，突出分析结论的重点，不应过分追求华丽。 好处： 使观看者对业务信息接受更快 有利于沟通 更好的连接运营与业务 三、数据形象化 指标值形象化 对数据指标值用图形的方式展现，并进行视觉优化，如使用三维立体图形 通过构建场景来表现 前提是要把握数据之间的内在联系，如简单到复杂、从前到后等，可以使用阶梯式（如受教育的程度）、领奖台式
标识管理：数据中心内不可忽略的大问题
weixin_33939843的博客
08-01 199
目前，我国的网络规模和网络装备技术水平业已跃居世界前列。然而，在网络高速发展的今天，与庞大的网络规模和先进的网络装备技术相比，网络中对设备、机架、子架、机盘、缆线系统、终端产品以及群路、通路、用户类别等方面使用的标识则形成极大的反差，并没有与国际接轨，高性能标识管理没有被提上日程。 一、国内数据中心标识管理系统的发展概述 机房的标识管理是信息系统标准化建...
mysql varchar类型的数据可以表示的范围是_MYSQL中支持的数据类型及取值范围
weixin_35909238的博客
01-26 1949
下表列出了各种数值类型以及它们的允许范围和占用的内存空间。类型大小范围(有符号)范围(无符号)用途TINYINT1字节-128~1270~255小整数值SMALLINT2字节-32768~327670~65535大整数值MEDIUMINT3字节-8388608~83886070~16777215大整数值INT或INTEGER4字节-2147483648~21474836470~4294967295...
ORACLE 10g 数据类型
06-22
`number(p,s)` 中，`p` 表示精度，即总位数，最大为38，`s` 表示小数位数，范围是-84到127。例如，`number(7,2)` 可以存储最多5位整数和2位小数的数值。虽然Oracle没有独立的整型数据类型如 `integer` 或 `int`，但...
MySQL常见数据类型-数值型.docx
09-14
MySQL 常见数据类型——数值型篇 MySQL 提供了多种数据类型，主要包括数值型、字符型、日期型等。不同的 MySQL 版本支持的数据类型可能稍有不同。 数值型数据类型 数值型数据类型包括整型、小数和位类型。 整型 ...
C 程序设计教程 第三章 数据类型.ppt
06-18
《C程序设计教程》第三章主要讲解了C语言中的数据类型，这是编程的基础，涵盖了整型、整型子类、浮点型、C-串（字符串）...在实际编程中，应根据需求选择合适的数据类型，并注意避免因超出范围或精度问题导致的错误。
C++程序设计教程 第三章 数据类型.ppt
12-10
- 整型数在计算机内部以二进制补码的形式存储，其位数是固定的，这决定了它们的表示范围。例如，对于32位编译器，整型通常是32位长。 - 整型包括长整型（long int）、短整型（short int）、字符型（char）和布尔型...
欧姆龙PLC数据运算PPT学习教案.pptx
10-08
4. **注意事项**: 在使用这些运算指令时，必须注意源通道和结果通道的选择，控制字的设置，以及理解每个指令的功能和对标志位的影响。错误的设置可能导致程序无法正常执行或者运算结果错误。 欧姆龙PLC的数据运算...
Quartus 与modelsim se联合仿真
weixin_43909615的博客
07-09 3340
** 1.首先下载并安装两个软件 ** modelsim se是从下面网址下载并破解的（未使用altera-modelsim，这两个是不一样的） http://www.xue51.com/ 至于quartus忘记从哪里下的了 2.下载好需要进行设置 设置顺序为：Tools–>options出现下图窗口 设置好路径就可以了：modelsim安装目录下的win64文件夹，一定要注意是设置Modelsim那一栏，而不是Modelsim-altera那一栏（这个对应安装Modelsim-altera） 设置
FPGA上VGA移动小方块实验
weixin_43909615的博客
07-18 1933
通过移动小方块顶点来实现小方块在屏幕上的移动。 废话不多说直接上vga_display模块代码： 驱动模块以及pll时钟模块与上个实验相同。 顶层模块代码如下，主要实现以上几个模块的例化与组合连接： 顶层框图生成如下： 硬件下载验证结果： 需要注意的是，在display模块中，为了实现方块顶点的移动，定义了一个计数模块，为了实现每10ms顶点移动一次。还定义了移动方向、移动时能以及判断移动条件等。 ...
关于异步FIFO的时钟同步问题分析
weixin_43909615的博客
07-23 1858
1.时钟同步原理 通过增加两个寄存器来实现时钟同步 对于fifo来说，无论是写地址在读时钟下同步，还是读地址在写时钟下同步，被同步地址都会是延迟两个时钟周期之前的地址，所以在进行比较判断的时刻，参与判断的同步地址总是小于等于当前时刻的真实地址。那么， 对于判断满信号full，由于满信号判断条件为写地址是否追上读地址，即rd_addr - wr_addr == 0, 在判断条件中，rd_addr 应该是领先的一方，否则将会出现超前写数据的情况，所以应该将读地址同步到写时钟下。同步后的判断条件则变为：rd
modelsim仿真ROM IP核遇到无法读取mif文件的解决方法
weixin_43909615的博客
11-11 1522
只需要将rom的写入文件改为绝对路径即可
FPGA上VGA显示彩色条
weixin_43909615的博客
07-18 1393
1.VGA接口 先不废话，上图： 常用的就是1、2、3、13、14，本次小实验也是只用了这五条信号线。在VGA的传输标准中，信号被分为RGB三个原色信号，然后经过数模转换之后，在同步信号的同步下在三个通道中单独传输，同步信号如下： 其中，行同步信号是对VGA驱动时钟进行计数（扫描像素点），而场同步信号是对行同步信号进行计数，即扫描完一行后场同步信号计数才+1. 看上图可以得出，c*q即为分辨率。 2.RGB信号相关 与RGB相关接口有三个，即RGB三个通道，如果不进行扩展只能显示8种颜色，所以一般开发
FPGA上LED流水灯实现
weixin_43909615的博客
07-10 1066
1.实现方案流程 如此下图： 在这里计数器的实现需要系统时钟的参与，所以需要找到所用FPGA系统时钟引脚，由于所使用的FPGA比较老，未能找到原理图，只能依照板子上写的找线索，如下图：所以是PIN_22引脚 复位键sys_rst_n也没有，就找了一个按键代替。 2.代码 flow_led代码如下： 在这里插入代码片 ...
关于这两天写的异步fifo代码是否遗漏数据问题
weixin_43909615的博客
07-24 709
wr_fifo中： rd_fifo中： 这两个地方是否有+1操作： 如果只有写数据有+1，读数据不+1，会出现数据漏写问题，读数据正常 图中画圈数据被漏掉。 如果都不+1，则运作正常，只是当状态计数器从2’d1状态转到2’d0状态后（即fifo满/空时），要一直等到fifo空/满之后才会再开始工作，稳定在读写交替的状态。如下图：读写使能完全不重叠。 如果都进行+1操作：还是会出现漏写数据的问题。读数据正常 如果只有读数据+1，写数据不+1：读写正常，而且读写操作有重叠部分，所以效率高一点。 上.
利用系统时钟计时
weixin_43909615的博客
07-11 695
一定要注意一定位数所能存储最大值问题！ 系统时钟假设为50MHz，那么1/50MHz为20ns，如果计时0.2s，那么就要计数posedge（或者negedge）110^7 次。 10^7 需要24位才可以存储。 而拿系统时钟为20MHz，那么1/20MHz为50ns，如果计时1s，那么就要计数posedge（或者negedge）210^7 次。 210^7 需要25位才可以存储。仿真的时候没有注意位数最大值的问题，即24位的无法存储210^7，因为代码是在50MHz基础上改的，所以只改了数字，
软考 数据系统工程师笔记 紫依老师视频 总结并撰写 一些主要内容和总结 本人一次过
03-09
本文是关于软考数据系统工程师考试的学习笔记，主要基于紫依老师的视频教程进行总结。内容涵盖CPU的组成，包括运算器、控制器、寄存器组以及数的表示方法，如原码表示法。 正文: 在准备软考数据系统工程师的过程中...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值