Keras中自定义层时build函数和call函数的区别

Keras中自定义层时build函数和call函数的区别在于,buid函数需要先将待训练的变量或者含参数变量的层先定义好,比如权重W、Conv2D层等,这些带有待训练变量的量只能在buid中创建,call中只能通过self使用已构建的量。笔记参考以下2网页内容:
问题引出
详解

本文通过两个定义例子来说明build函数和call函数的使用


例子1

from tensorflow.keras.layers import Layer
class crl_attention(Layer):
    def __init__(self, **kwargs):
        super(crl_attention, self).__init__(**kwargs)

    def build(self, input_shape):
        self.W = self.add_weight(name='attention_weight', shape=(input_shape[-1], 1),
                                 initializer='random_normal', trainable=True)
        self.b = self.add_weight(name='attention_bias', shape=(input_shape[1], 1),
                                 initializer='zeros', trainable=True)

        super(crl_attention, self).build(input_shape)

    def call(self, x):
        # Alignment scores. Pass them through tanh function
        e = K.relu(K.dot(x, self.W) + self.b)
        # Remove dimension of size 1
        e = K.squeeze(e, axis=-1)
        # Compute the weights
        alpha = K.softmax(e)
        # Reshape to tensorFlow format
        alpha = K.expand_dims(alpha, axis=-1)
        # Compute the context vector
        context = x * alpha
        context = K.sum(context, axis=1)
        return context

例子2

def build(self, inputs):
  self.w = tf.random_normal_initializer(mean=0.0, stddev=1e-4)
  if self.bias:
    self.b = tf.constant_initializer(0.0)
  else:
    self.b = None

  self.conv_a = Conv2D(filters=self.filter_num, kernel_size=(self.filter_size, self.filter_size), strides=(self.stride, self.stride), padding='VALID', use_bias=True, kernel_initializer=self.w, bias_initializer=self.b)
  self.conv_b = Conv2D(filters=self.filter_num, kernel_size=(self.filter_size, self.filter_size), strides=(self.stride, self.stride), padding=self.pad, use_bias=True, kernel_initializer=self.w, bias_initializer=self.b)
  self.conv_c = Conv2D(filters=self.filter_num, kernel_size=(self.filter_size, self.filter_size), strides=(self.stride, self.stride), padding='VALID', use_bias=False, kernel_initializer=self.w)
  self.conv_d = Conv2D(filters=self.filter_num, kernel_size=(self.filter_size, self.filter_size), strides=(self.stride, self.stride),padding=self.pad, use_bias=False, kernel_initializer=self.w)  

def call(self, inputs):
  if self.bias:
    if self.pad == 'REFLECT':
      self.p = (self.filter_size - 1) // 2
      self.x = tf.pad(inputs, [[0, 0], [self.p, self.p], [self.p, self.p], [0, 0]], 'REFLECT')
      return self.conv_a(self.x)
    else:
      return self.conv_b(inputs)
  else:
     if self.pad == 'REFLECT':
        self.p = (self.filter_size - 1) // 2
        self.x = tf.pad(inputs, [[0, 0], [self.p, self.p], [self.p, self.p], [0, 0]], 'REFLECT')
        return self.conv_c(self.x)
     else:
        return self.conv_d(inputs)

说明

例子1的build函数是自定义训练参数W, 例子2是定义已有的模块Conv2D(这些模块都内含待训练的参数),这些有参数的量都需要在buid中定义才能够在call函数中使用, call函数中不能直接定义Conv2D且使用,比如call函数中写以下句子会报错:

def call(input):
	res = Conv2D(...)(input)
  • 2
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Keras自定义函数可以保存在Python文件,然后通过`from xxx import yyy`的方式进行引用。如果你创建了一个自定义的层或模型,可以将其保存在一个Python文件,例如: ```python # 自定义的层 from keras.layers import Layer class MyLayer(Layer): def __init__(self, output_dim, **kwargs): self.output_dim = output_dim super(MyLayer, self).__init__(**kwargs) def build(self, input_shape): self.kernel = self.add_weight(name='kernel', shape=(input_shape[1], self.output_dim), initializer='uniform', trainable=True) super(MyLayer, self).build(input_shape) def call(self, x): return K.dot(x, self.kernel) def compute_output_shape(self, input_shape): return (input_shape[0], self.output_dim) # 自定义的模型 from keras.models import Model from keras.layers import Input, Dense def MyModel(input_shape, output_shape): inputs = Input(shape=input_shape) x = Dense(32, activation='relu')(inputs) x = MyLayer(output_shape)(x) model = Model(inputs=inputs, outputs=x) return model ``` 然后在训练模型或者使用该层时,可以通过以下方式进行引用: ```python from my_module import MyLayer, MyModel model = MyModel(input_shape=(10,), output_shape=5) model.compile(loss='mse', optimizer='adam') model.fit(x_train, y_train, epochs=10) layer = MyLayer(output_dim=10) ``` 需要注意的是,如果你的自定义函数保存在一个Python文件,需要确保该文件所在的目录在Python解释器的搜索路径,或者通过`sys.path.append()`将该目录添加到搜索路径

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值