【FAQ】参数设置相关问题汇总

在使用指南的最后一部分，我们汇总了使用PaddlePaddle过程中的常见问题，本部分推文目录如下：

2.22：【FAQ】模型配置相关问题汇总

2.23：【FAQ】参数设置相关问题汇总

2.24：【FAQ】本地训练与预测相关问题汇总

2.25：【FAQ】集群训练与预测相关问题汇总

2.26：如何贡献代码

2.27：如何贡献文档

参数设置相关问题汇总

|1. 如何选择SGD算法的学习率？

在采用sgd/async_sgd进行训练时，一个重要的问题是选择正确的learning_rate。如果learning_rate太大，那么训练有可能不收敛，如果learning_rate太小，那么收敛可能很慢，导致训练时间过长。

通常做法是从一个比较大的learning_rate开始试，如果不收敛，那减少学习率10倍继续试验，直到训练收敛为止。那么如何判断训练不收敛呢？可以估计出如果模型采用不变的输出最小的cost0是多少。

如果训练过程的的cost明显高于这个常数输出的cost，那么我们可以判断为训练不收敛。举一个例子，假如我们是三分类问题，采用multi-class-cross-entropy作为cost，数据中0,1,2三类的比例为 0.2, 0.5, 0.3 , 那么常数输出所能达到的最小cost是 -(0.2*log(0.2)+0.5*log(0.5)+0.3*log(0.3))=1.03 。如果训练一个pass（或者更早）后，cost还大于这个数，那么可以认为训练不收敛，应该降低学习率。

|2. 如何设置学习率退火（learning rate annealing）?

在相应的优化算法里设置learning_rate_schedule及相关参数，以使用Adam算法为例，代码如下：

optimizer = paddle.optimizer.Adam(

    learning_rate=1e-3,

    learning_rate_decay_a=0.5,

    learning_rate_decay_b=0.75,

    learning_rate_schedule="poly",)

PaddlePaddle目前支持8种learning_rate_schedule，这8种learning_rate_schedule及其对应学习率计算方式如下：

“constant”

lr = learning_rate

“poly”

lr = learning_rate * pow(1 + learning_rate_decay_a * num_samples_processed, -learning_rate_decay_b)其中，num_samples_processed为已训练样本数，下同。

“caffe_poly”

lr = learning_rate * pow(1.0 - num_samples_processed / learning_rate_decay_a, learning_rate_decay_b)

“exp”

lr = learning_rate * pow(learning_rate_decay_a, num_samples_processed / learning_rate_decay_b)

“discexp”

lr = learning_rate * pow(learning_rate_decay_a, floor(num_samples_processed / learning_rate_decay_b))

“linear”

lr = max(learning_rate - learning_rate_decay_a * num_samples_processed, learning_rate_decay_b)

“manual”

这是一种按已训练样本数分段取值的学习率退火方法。使用该learning_rate_schedule时，用户通过参数 learning_rate_args 设置学习率衰减因子分段函数，当前的学习率为所设置 learning_rate 与当前的衰减因子的乘积。以使用Adam算法为例，代码如下：

optimizer = paddle.optimizer.Adam(

    learning_rate=1e-3,

    learning_rate_schedule="manual",

 learning_rate_args="1000:1.0,2000:0.9,3000:0.8",)

在该示例中，当已训练样本数小于等于1000时，学习率为 1e-3 * 1.0；当已训练样本数大于1000小于等于2000时，学习率为 1e-3 * 0.9；当已训练样本数大于2000时，学习率为 1e-3 * 0.8。

“pass_manual”

这是一种按已训练pass数分段取值的学习率退火方法。使用该learning_rate_schedule时，用户通过参数 learning_rate_args 设置学习率衰减因子分段函数，当前的学习率为所设置 learning_rate 与当前的衰减因子的乘积。以使用Adam算法为例，代码如下：

optimizer = paddle.optimizer.Adam(

    learning_rate=1e-3,

    learning_rate_schedule="pass_manual",

    learning_rate_args="1:1.0,2:0.9,3:0.8",)

在该示例中，当已训练pass数小于等于1时，学习率为 1e-3 * 1.0；当已训练pass数大于1小于等于2时，学习率为 1e-3 * 0.9；当已训练pass数大于2时，学习率为 1e-3 * 0.8。

|3. 如何初始化参数?

默认情况下，PaddlePaddle使用均值0，标准差为 \(\frac{1}{\sqrt{d}}\) 来初始化参数。其中 \(d\) 为参数矩阵的宽度。这种初始化方式在一般情况下不会产生很差的结果。如果用户想要自定义初始化方式，PaddlePaddle目前提供两种参数初始化的方式:

高斯分布。将 param_attr 设置成 param_attr=ParamAttr(initial_mean=0.0, initial_std=1.0)

均匀分布。将 param_attr 设置成 param_attr=ParamAttr(initial_max=1.0, initial_min=-1.0)

比如设置一个全连接层的参数初始化方式和bias初始化方式，可以使用如下代码：

hidden = fc_layer(input=ipt, param_attr=ParamAttr(initial_max=1.0, initial_min=-1.0),

                  bias_attr=ParamAttr(initial_mean=1.0, initial_std=0.0))

上述代码将bias全部初始化为1.0, 同时将参数初始化为 [1.0, -1.0] 的均匀分布。

|4.  如何共享参数?

PaddlePaddle的参数使用名字 name 作为参数的ID，相同名字的参数，会共享参数。设置参数的名字，可以使用 ParamAttr(name="YOUR_PARAM_NAME") 来设置。更方便的设置方式，是使得要共享的参数使用同样的 ParamAttr 对象。

简单的全连接网络，参数共享的配置示例为:

这里 hidden_a 和 hidden_b 使用了同样的parameter和bias。并且softmax层的两个输入也使用了同样的参数 softmax_param。

|5.如何加载预训练参数?

对加载预训练参数的层，设置其参数属性 is_static=True，使该层的参数在训练过程中保持不变。以embedding层为例，代码如下：

emb_para = paddle.attr.Param(name='emb', is_static=True)

paddle.layer.embedding(size=word_dim, input=x, param_attr=emb_para)

从模型文件将预训练参数载入 numpy.array，在创建parameters后，使用 parameters.set() 加载预训练参数。PaddlePaddle保存的模型参数文件前16字节为头信息，用户将参数载入 numpy.array 时须从第17字节开始。以embedding层为例，代码如下：

def load_parameter(file_name, h, w):

    with open(file_name, 'rb') as f:

        f.read(16)  # skip header.

        return np.fromfile(f, dtype=np.float32).reshape(h, w)

parameters = paddle.parameters.create(my_cost)

parameters.set('emb', load_parameter(emb_param_file, 30000, 256))

|6. PaddlePaddle是否支持维数可变的数据输入?

PaddlePaddle保存的模型参数文件内容由16字节头信息和网络参数两部分组成。头信息中，1~4字节表示PaddlePaddle版本信息，请直接填充0；5~8字节表示每个参数占用的字节数，当保存的网络参数为float类型时为4，double类型时为8；9~16字节表示保存的参数总个数。

将PaddlePaddle保存的模型参数还原回明文时，可以使用相应数据类型的 numpy.array 加载具体网络参数，此时可以跳过PaddlePaddle模型参数文件的头信息。若在PaddlePaddle编译时，未指定按照double精度编译，默认情况下按照float精度计算，保存的参数也是float类型。这时在使用 numpy.array 时，一般设置 dtype=float32 。示例如下：

def read_parameter(fname, width):

    s = open(fname).read()

    # skip header

    vec = np.fromstring(s[16:], dtype=np.float32)

    # width is the size of the corresponding layer

    np.savetxt(fname + ".csv", vec.reshape(width, -1),

            fmt="%.6f", delimiter=",")

将明文参数转化为PaddlePaddle可加载的模型参数时，首先构造头信息，再写入网络参数。下面的代码将随机生成的矩阵转化为可以被PaddlePaddle加载的模型参数。

def gen_rand_param(param_file, width, height, need_trans):

    np.random.seed()

    header = struct.pack("iil", 0, 4, height * width)

    param = np.float32(np.random.rand(height, width))

    with open(param_file, "w") as fparam:

        fparam.write(header + param.tostring())

|7. A protocol message was rejected because it was too big?

如果在训练NLP相关模型时，出现以下错误：

[libprotobuf ERROR google/protobuf/io/coded_stream.cc:171] A protocol message was rejected because it was too big (more than 67108864 bytes).  To increase the limit (or to disable these warnings), see CodedInputStream::SetTotalBytesLimit() in google/protobuf/io/coded_stream.h.

F1205 14:59:50.295174 14703 TrainerConfigHelper.cpp:59] Check failed: m->conf.ParseFromString(configProtoStr)

可能的原因是：传给dataprovider的某一个args过大，一般是由于直接传递大字典导致的。错误的define_py_data_sources2类似：

src_dict = dict()

for line_count, line in enumerate(open(src_dict_path, "r")):

   src_dict[line.strip()] = line_count

define_py_data_sources2(

   train_list,

   test_list,

   module="dataprovider",

   obj="process",

   args={"src_dict": src_dict})

解决方案是：将字典的地址作为args传给dataprovider，然后在dataprovider里面根据该地址加载字典。即define_py_data_sources2应改为：

define_py_data_sources2(

   train_list,

   test_list,

   module="dataprovider",

   obj="process",

   args={"src_dict_path": src_dict_path})

 end

*原创贴，版权所有，未经许可，禁止转载

*值班小Paddle：wangp

*欢迎在留言区分享您的观点