python - 如何在 Keras 中实现 1-sigmoid？

Question

因为我想实现一个类似于GRU更新门的结构:

h_t = (1-z_t)h_t-1 + z_th_t

我试图用这些代码来实现它，但它不起作用。我确定问题出在以下代码中:

one = K.ones(shape=(1, len, 128))
zt=Subtract([one,zt])
temp_conv2=multiply([reset_conv,zt])
output=Add([temp_conv1,temp_conv2])

我有以下错误:

AttributeError:'Tensor' object has no attribute '_keras_history'

我已经尝试过其他一些方法，例如使用 Lambda 层，但它不起作用。

Answer 1

one 不是 Keras 张量，因此您会收到该错误。您可以将其包装在 Lambda 层中:

zt = Lambda(lambda x: Subtract([K.ones(shape=(1, len, 128)), x]))(zt)

即使你也不需要构造那个张量。只需使用 1-x:

zt = Lambda(lambda x: 1-x)(zt)

它将自动广播，并且减法将按元素进行。