python - Keras 中具有掩蔽支持的均值或最大池化

Question

...
print('Build model...')
model = Sequential()
model.add(Embedding(max_features, 128))
model.add(LSTM(size, return_sequences=True, dropout_W=0.2 dropout_U=0.2)) 
model.add(GlobalAveragePooling1D())
model.add(Dense(1))
model.add(Activation('sigmoid'))
....

在将此均值或最大值向量提供给 Keras 中的密集层之前，我需要能够在 LSTM 层之后的样本中的所有时间步长中获取向量的平均值或最大值。

我认为 timedistributedmerge 能够做到这一点，但它已被弃用。使用 return_sequences=True 我可以获得 LSTM 层之后样本中所有时间步长的向量。但是，GlobalAveragePooling1D() 与掩蔽不兼容，它考虑所有时间步长，而我只需要非掩蔽时间步长。

我看到推荐 Lambda 层的帖子，但这些也没有考虑屏蔽。任何帮助将不胜感激。

Answer 1

Jacoxu 的回答是正确的。但是，如果您使用的是 keras 的 tensorflow 后端，则 Tensor 类型不支持 dimshuffle 函数，请改用此方法。

def call(self, x, mask=None):
    if mask is not None:
        # mask (batch, time)
        mask = K.cast(mask, K.floatx())
        # mask (batch, x_dim, time)
        mask = K.repeat(mask, x.shape[-1])
        # mask (batch, time, x_dim)
        mask = tf.transpose(mask, [0,2,1])
        x = x * mask
    return K.sum(x, axis=1) / K.sum(mask, axis=1)