计算机体系结构
数字IC剑指offer
这个作者很懒,什么都没留下…
展开
-
为什么计算机用补码运算
计算机为什么用补码运算使用补码,可以将符号位和数值域统一处理,从而简化运算规则、简化运算器的结构,提高运算速度;使减法运算转换为加法运算,进一步简化计算机中运算器的电路设计两个用补码表示的数相加时,如果最高位(符号位)有进位,则进位被舍弃,而这样计算仍然正确;采用补码表示还有另外一个原因,那就是为了防止0机器数有两个编码。原码和反码表示的0有两种形式+0和-0,而采用补码表示的时候,00000000是+0即0,10000000不再是-0而是-128这样,补码表示的数的范围就是-128~+127,不原创 2020-05-13 18:20:57 · 5025 阅读 · 4 评论 -
定点数无损量化
定点数量化量化公式例题量化公式若需要量化成的定点数格式:m位定点数,n个小数位,无符号位,那么n称作量化系数,则将一个浮点数量化成该格式的定点数公式为〖num〗_fix=floor(num_float2^n)floor为向下取整函数(舍弃小数位),该格式的定点数最小能够表示的数为1/2^n , num_fix为量化之后的m位定点数,表示的数为num_fix1/2^n可以这样理解:量化系数n决定了我们逻辑上认为01序列中可表示的单位值为1/2^n ,而CPU读取的数字表示有多少份单位值举例来说,原创 2020-05-11 22:55:43 · 5984 阅读 · 4 评论