
计算机组成原理
文章平均质量分 95
哈市雪花
图形几何、数据处理、并行计算相关研究和研发,公众号:geometrylib,欢迎交流
展开
-
关于float浮点值二进制存储和运算精度损失的话题
浮点值的存储、运算都可能会带来精度损失,了解精度损失背后的机制原因方便我们更好的了解什么情况下会发生精度损失、什么情况下精度损失较大,以及思考怎么避免或减少精度损失。原创 2024-08-08 20:43:48 · 1514 阅读 · 0 评论 -
原码、补码、反码总结
1.背景前一段时间在做模型外壳提取程序时候,用到了补码的知识,现在系统的总结下原码、补码、反码的知识。你可能注意到了我写的顺序是补码在反码前面,是的,补码不是必须依赖于反码才能得知的,但本文为了方便讲解和容易理解仍然采用了先反码再补码的顺序。本文以1个字节的存储空间为例进行讲解。2.原码2.1.概述原码比较简单,最高位为符号位(1代表负数,0代表正数),其他位表示该数值的绝对值,例如,对于1个字节的存储,1000 1101 代表-13, 0000 1101代表13。2.2..原创 2020-11-13 00:05:52 · 931 阅读 · 3 评论