在matlab中,uint8的为无符号8位整数,范围 : [0 255],那么当越界时会发生什么呢?
小于0:
>> uint8(-1)
ans =
0
大于255:
uint8(266)
ans =
255
这都比较自然,没什么。
我今天遇到的使我犯错的是这样一个东西,如果两个uint8相减产生了越界会发生什么呢?我之前一直以为matlab会将类型进行转换,然而实际上并不会,运算后结果仍旧是uint8
>> a = uint8([1 2])
a =
1 2
>> b = uint8([3