- 博客(1)
- 收藏
- 关注
原创 Sowu高精度详解
前言:在说高精度加减乘除运算之前,我们先搞明白什么是高精度运算? 利用计算机进行数值计算,有时会遇到这样的问题:有些计算要求精度高,希望计算的数的位数可达几十位甚至几百位,虽然计算机的计算精度也算较高了,但因受到硬件的限制,往往达不到实际问题所要求的精度。我们可以利用程序设计的方法去实现这样的高精度计算。 以下是几种常见数据类型的范围: 变量 范围 int -2147483648 ~ +2147483647 (4 Bytes) char -128 ~ +127 (1 Byte) do
2020-08-01 14:37:34 610
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人