高精度向低精度转换的问题案例 int类型 128转换问题

最新推荐文章于 2023-09-28 17:48:49 发布

不想写代码的程序猿.

最新推荐文章于 2023-09-28 17:48:49 发布

阅读量543

点赞数

文章标签： java scala

本文链接：https://blog.csdn.net/Sdwq12/article/details/124279183

版权

本文通过一个使用Scala的案例，探讨了在编程中高精度整数（如int类型128）转换为低精度类型时可能遇到的问题，指出计算机底层以补码形式存储数据对转换的影响。

摘要由CSDN通过智能技术生成

本案例用的是scala语言但是底层和思想和Java基本一样

注意：计算机底层是按补码的形式进行存储的

/** * 
 128: Int类型，占据4个字节，32位    
 原码0000 0000 0000 0000 0000 0000 1000 0000   
 补码0000 0800 0000 0000 0000 0000 1000 0000    
 截取最后一个字节，Byte    
 得到补码1000 0000    
 -128不能用原码或反码表示 ，反码只能表示0到127,-0到-127；
*/ 
val i2 :Int = 128 
val b6 : Byte = i2.toByte 
println(s"高到低类型转换b6 ：${b6}")

/** *
130: Int类型，占据4个字节，32位    
原码0000 0000 0000 0000 0000 0000 1000 0010    
补码0000 0800 0000 0000 0000 0000 1000 0010    
截取最后一个字节，Byte    
得到补码1000 0010    
对应原码1111 1110   取反加1    -126 
*/ 
val i3 :Int = 130 
val b7 : Byte = i2.toByte 
println(s"高到低类型转换b6 ：${b7}")