function y = quantize( x,b,type )
error(nargchk(2,3,nargin));
if ndims(x)~=2||~isreal(x)||~isnumeric(x)||~isa(x,'uint8')
error('The inpyt muxt be a UINT8 numeric matrix.');
end
lo=uint8(2^(8-b)-1);
hi=uint8(2^8-double(lo)-1);
if nargin<3||~strcmpi(type,'igs')
y=bitand(x,hi);
else
[m,n]=size(x); s=zeros(m,1);
hitest=double(bitand(x,hi)~=hi); x=double(x);
for j=1:n
s=x(:,j)+hitest(:,j).*double(bitand(uint8(s),lo));
y(:,j)=bitand(uint8(s),hi);
end
end
quantize.m
最新推荐文章于 2024-09-06 14:54:13 发布
该函数`quantize`用于将输入的`x`进行量化处理,根据参数`b`和`type`进行不同方式的位操作。首先检查输入是否为2维的无符号8位整数矩阵,接着定义高位和低位边界,如果`type`不为'igs',则直接进行位与操作。否则,对于每个列,进行位与和加法操作,生成量化结果。
摘要由CSDN通过智能技术生成