tensorflow - 如何在tensorflow keras中访问自定义层的递归层

Question

来自 tensorflow keras 示例。我可以递归地创建一个包含线性层的自定义层

class MLPBlock(layers.Layer):

  def __init__(self):
    super(MLPBlock, self).__init__()
    self.linear_1 = Linear(32)
    self.linear_2 = Linear(32)
    self.linear_3 = Linear(1)

  def call(self, inputs):
    x = self.linear_1(inputs)
    x = tf.nn.relu(x)
    x = self.linear_2(x)
    x = tf.nn.relu(x)
    return self.linear_3(x)

如何访问自定义层的所有组件层，我想访问所有组件层的权重和偏差。

例如:

MLPBlock(Parent Layer):
    linear_1
    linear_2
    linear_3

我查看了 tensorflow keras api 版本 r 1.14 https://www.tensorflow.org/guide/keras 但找不到任何方法来做到这一点。

Answer 1

我假设您正在关注 this tutorial .基于此，您可以通过以下方式访问权重:

class MLPBlock(tf.keras.Model):

    def __init__(self):
        super(MLPBlock, self).__init__()
        self.linear_1 = tf.keras.layers.Dense(32)
        self.linear_2 = tf.keras.layers.Dense(32)
        self.linear_3 = tf.keras.layers.Dense(1)

    def call(self, inputs):
        x = self.linear_1(inputs)
        x = tf.nn.relu(x)
        x = self.linear_2(x)
        x = tf.nn.relu(x)
        return self.linear_3(x)

mlp_block = MLPBlock()
y = mlp_block(tf.ones(shape=(3, 64)))
for layer in mlp_block.layers:
    weights, biases = layer.get_weights()

请注意，我稍微修改了示例，以便您可以访问图层的权重和偏差。也就是说，我所做的不是使用 tf.keras.layers.Layer 对类进行子类化，而是使用 tf.keras.Model 进行子类化，这样层的堆栈就可以被视为模型，然后您可以访问该模型的层。然后，为了简单起见，我没有使用自定义 Linear 层，而是使用了 tf.keras.layers.Dense，但是，使用自定义层应该没有什么不同。