网上看到两种说法:如下:
《1》支持1/(2^n-1)
大家看一下下面的例子:
(1) 在总长度为5米的范围里,平均分布6棵树(或说6个元素),算出每科树(或说每个元素)的间隔?
解:每棵树(或说每个元素)应该这样分布:
在开头0米处种第1棵(记为0号树)
在1米处种第2棵(记为1号树);
在2米处种第3棵(记为2号树);
在第5米(即终点)处种第6棵(记为5号树)
所以,每棵树的间隔(或分辨率)的算法是:总长度/(长度内总元素-1) 即:5米/(6-1)棵=1米/棵
每隔1米有1棵树,这个道理大家都很清楚,应该没有人说分辨率=总长度/长度内总元素=5/6=0.83米
打个比喻,你用两位,就只有00、01、10和11,00为0V,11为12V,请问01是多少V,所以应该是12/(2的2次方减1),V=X*5/4095
《2》支持1/2^n
注意每个数有1LSB的范围
当你的读数是0时,实际电压值可能是0<= V < 1/4096
当你的读数是1时,实际电压值可能是REF1/4096<= V < REF2/4096
当你的读数是0x0FFF时,实际电压值可能是REF*4095/4096<= V < REF
假如你用两位,就有00、01、10和11共4种状态,那么就设定03V,36V为01,6~9V为10,9~12V为11,这样才能把整个量程分为均匀的4段,
也只有这样分4个数每一个的范围才是一致的
我们可以看出,数字化后每一个数都是一个范围,范围内的是无法区分的,明显会丢失精度,丢失的精度是1个最小位1LSB,因此数字万用表都标1LSB的误差
实际上这是在完美线性下才能达到的
---------------------
原文:https://blog.csdn.net/zyboy2000/article/details/40540823