二进制运算的补码规则。

最新推荐文章于 2024-07-11 22:27:43 发布

shawncheer

最新推荐文章于 2024-07-11 22:27:43 发布

阅读量4.3k

点赞数

分类专栏：计算机编程算法研究

本文链接：https://blog.csdn.net/shawncheer/article/details/89352261

版权

计算机编程算法研究专栏收录该内容

6 篇文章 1 订阅

订阅专栏

本文的直接思路来源是：https://www.codeproject.com/Articles/874396/Crunching-Numbers-with-AVX-and-AVX

For example, suppose a vector contains signed bytes, so the maximum value for each element is 127 (0x7F). If an operation adds 98 to 85, the mathematical sum is 183 (0xB7).

If the values are added with _mm256_add_epi8, the saturation will be ignored and the stored result will be -73 (0xB7).

这里说的是98+85后的值（带符号8位），我当时认为是之间加起来就是了，带符号的话就是-53。和文章中的数值不一样。我想起了计算后应该是补码的形式还原后才行。（原来是反码（不操作符号）加一就是补码，现在还原就是逆过程。如图一所示。

图一：