decimal
景彪
钻牛角尖.
展开
-
溢出和进位
溢出与进位对于无符号数来说,不存在溢出的问题,它的进位就相当于有符号数中的溢出而对有符号数来说,不存在进位的问题一个字节(8位) 的数有256个 (2的8次方)一个字(16位) 的数有65536个 (2的16次方)8个二进制位能够表达的无符号数范围是:0 ~ 25516位表达的无符号数范围是:0 ~ 65535 对于无符号数来说,不存在溢出的问题,它的进位就相当于有转载 2012-07-02 17:46:25 · 35277 阅读 · 0 评论 -
mysql中 decimal 的实现
mysql中定义deciaml/** intg is the number of *decimal* digits (NOT number of decimal_digit_t's !) before the point frac is the number of decimal digits after the point len is the length原创 2012-09-13 20:37:02 · 2528 阅读 · 0 评论 -
整数和浮点数
整数和浮点数的区别: 整数是指正整数、负整数和零,如-6、0、32 等。 浮点数是指带有有限位小数的有理数,如-10.8、0.00、25.01 等。 整数既可以是整数,也可以是浮点数,例如255 是整数,而255.0 则是浮点数。 整数运算,得到的结果是一个整数,并且计算结果中的小数部分将被忽略。例如:用整数运算时,100÷3=33。 浮点运算,得原创 2012-09-13 20:29:02 · 12135 阅读 · 0 评论