MXNet模型参数的访问、初始化和共享

模型参数的访问：

# 通过net后面括号内的索引访问哪一层
net[0].params, type(net[0].params)
# 两种方法得到相应层的信息，一般使用后者，因为前者需要输入层的名称（权重和偏差）
net[0].params['dense0_weight'], net[0].weight
# 层包括了data和grad，即权重和梯度
net[0].weight.data()
net[0].weight.grad()
net[0].bias.data()

# 得到所有层的信息
net.collect_params()
# 通过正则表达式筛选需要的参数
net.collect_params('.*weight')

初始化模型参数：

# 使用默认初始化方式
net.initialize()  

# 使用init.initialize里的方法初始化
# 非首次对模型初始化需要指定force_reinit为真
net.initialize(init=init.Normal(sigma=0.01), force_reinit=True) # 正态分布初始化
net.initialize(init=init.Constant(1), force_reinit=True) # 常数初始化
# 特定层的参数进行初始化
net[0].weight.initialize(init=init.Xavier(), force_reinit=True) # Xavier随机初始化

自定义初始化方法：

# 通过继承init.Initializer，重载构造函数
class M