- 博客(1)
- 收藏
- 关注
原创 如何理解整型数的溢出与浮点数的精度?
各类型整型数据能表示的范围有一定的限制,当数据超出该类型的存储范围时,会造成整型数的溢出。由于浮点数的精度问题,对于一个浮点型变量的赋值与实际存储在内存中的数值可能并不相同,由此可见,虽然float型可以存储38位十进制的实数,但仅前7位数是精确无误的。
2023-10-09 21:41:19
172
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人