python - 如何在急切执行模式下重用 tensorflow 变量？

Question

在 tensorflow 中调用 get_variable() 函数时，“重用”标志的行为定义在 tensorflow api doc 中成为 AUTO_REUSE:

reuse: True, None, or tf.AUTO_REUSE; ... When eager execution is enabled, this argument is always forced to be tf.AUTO_REUSE.

但是当我真正按照网页中的建议运行演示代码时:

tf.enable_eager_execution()
def foo():
  with tf.variable_scope("foo", reuse=tf.AUTO_REUSE):
    v = tf.get_variable("v", [1])
  return v
v1 = foo()  # Creates v.
v2 = foo()  # Gets the same, existing v.
assert v1 == v2

它失败了。 (如预期的那样，如果第一行被删除，它就会通过。)

那么如何在eager模式下重用一个变量呢？这是错误还是我遗漏了什么？

Answer 1

在 eager 模式下，事情变得更简单......除了那些因使用图形模型时间过长而脑部受损的人(比如我)。

Eager 以标准方式工作，变量仅在被引用时存在。如果您停止引用它们，它们就会消失。

要进行变量共享，您要做的事情与您使用 numpy(或其他任何东西)进行计算时自然会做的事情相同:将变量存储在一个对象中，然后重用该对象。

这就是为什么 eager 与 keras API 有如此密切关系的原因，因为 keras 主要处理对象。

因此，再看看您的函数，例如 numpy(对于像我这样从图形中恢复的人很有用)。您是否期望对 foo 的两次调用返回相同的数组对象？当然不是。