PyTorch、Caffe、NCNN、TNN各框架下归一化处理

最近在将pytorch 模型和caffe模型移植到NCNN或者TNN时，发现能成功加载模型，但是出来的结果总是不对，后来一步步排查，发现是这个归一化捣的鬼，以下总结了几个框架下归一化如何转换对应起来，帮助推理结果正确！
1. pytorch  
使用方法：
transform = transforms.Compose([
                transforms.ToTensor(),
                transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225])])

toTensor()会进行归一化，Normalize的操作是(x-mean)/std

 

2. caffe
使用方法：
  transform_param {
    scale: 0.007843  
    mirror: true
    mean_value: 127.5
    mean_value: 127.5
    mean_value: 127.5 }

caffe不会进行主动归一化, (x-mean_value)*scale

 

3. ncnn（对应1）
使用方法：
const float mean_vals[3] = {0.485f*255.f, 0.456f*255.f, 0.406f*255.f};    ///R，G，B
const float norm_vals[3] = {1/0.229f/255.f, 1/0.224f/255.f, 1/0.225f/255.f};
in.substract_mean_normalize(mean_vals, norm_vals);

ncnn不会进行主动归一化,substract_mean_normalize的操作是(x-mean_vals) * norm_vals

 

假设数据X为150:
pytorch下：(x-mean*255)/std*255 = (150-0.485*255)/0.229*255 = 0.4508

ncnn下：(x-mean_vals)/norm_vals = (150-0.485*255)*(1/0.229*255) = 0.4508

 

4. tnn(对应2)
使用方法：
TNN_NS::MatConvertParam input_cvt_param;
input_cvt_param.scale  = {0.007843f, 007843f, 007843f, 0};
input_cvt_param.bias = {-0.007843*127.5f, -0.007843*127.5f, -0.007843*127.5f, 0};
auto status = instance_->SetInputMat(image_mat, input_cvt_param);

tnn不会进行主动归一化,input_cvt_param的操作是 x*input_cvt_param.scale+input_cvt_param.bias

假设数据X为150:
caffe下：(x-mean_value)*scale = (150-127.5)*0.007843  = 0.1765

tnn下：x*input_cvt_param.scale+input_cvt_param.bias = 150*0.007843 +(-0.007843*127.5) = 0.1765

 

仅个人理解，如有错，请指出，谢谢！