matlab设置矩阵精度单精度,关于matlab的单精度与双精度

在matlab中有这么两个函数

hex2num(str)，将16进制字符串str(默认双精度)转换成一个数(如果加一个类型转换可以转换为单精度hex2num(single(str))

num2hex(num)，将一个双精度的数num(默认)装换成16进制字符串(当然也可以强制转换num2hex(single(num))   )

注意，我上面所提到的16进制数，并非其逻辑上的16进制，而是其机器上的2进制数对应的16进制

比如

一个10进制(逻辑上)数3.5 对应的16进制(逻辑上)数为3.8

matlab里面的dec2hex() 和 hex2dec都是逻辑上的转换  // 当然如果你这样输入 dec2hex(3.5) 会出错，因为这个函数只是针对整数

一个单精度精度数和一个双精度数在matlab里面是这样存储的

先将浮点数3.5转换成其逻辑上的2进制，比如3.5对应的2进制为11.1，然后写成科学计数1.11*2^1

容易知道，写成科学计数法之后第一位一定是1，所以这一位不用管，只记录其尾数(1.11)11，

其指数是1，符号是正号(0)

单精度的格式

X /XXXX XXXX / XXXX XXXX XXXX XXXX XXXX XXX

第一部分为符号为，即正为0，负数为1

第二部分为指数为，表示-127～128,而其范围为0～255，所以实际存储是实际指数+127，即1+127=128  1000 0000

第三部分是尾数，即11

所以3.5在计算机中就是表示为0100 0000 1100 0000 0000 0000 0000 0000,数一数应该是32位，单精度就是32位

所以其对应的16进制就是

40600000

可以到matlab里面验证一下

>>num2hex(single(3.5))

双精度的格式

X/XXX XXXX XXXX /XXXX XXXX XXXX XXXX XXXX XXXX XXXX XXXX XXXX XXXX XXXX XXXX XXXX

其余与单精度一样