python - 基于BasicRNNCell的网络结构是怎样的？

Question

我想知道下图中Tensorflow的BasicRNNCell在递归神经网络中的结构是怎样的？在我看来是一个3层12个神经元的神经网络。但是我不确定这种连接是什么样子的？不知道是不是Hopfield网？

cell = tf.contrib.rnn.BasicRNNCell(num_units=12)

states_series, current_state = tf.nn.dynamic_rnn(cell=cell,inputs=batchX_placeholder,dtype=tf.float32)

Answer 1

这是基本 RNN 单元的一层，每个单元都有12 个隐藏单元。单元格的数量取决于您的 batchX_placeholder 占位符。

这是一个例子:

n_steps = 2
n_inputs = 3
n_neurons = 5    
X = tf.placeholder(dtype=tf.float32, shape=[None, n_steps, n_inputs])
basic_cell = tf.nn.rnn_cell.BasicRNNCell(num_units=n_neurons)
outputs, states = tf.nn.dynamic_rnn(basic_cell, X, dtype=tf.float32)
print(tf.trainable_variables())

它打印...

[<tf.Variable 'rnn/basic_rnn_cell/kernel:0' shape=(8, 5) dtype=float32_ref>, 
 <tf.Variable 'rnn/basic_rnn_cell/bias:0' shape=(5,) dtype=float32_ref>]

因此它创建了一个共享内核矩阵和一个共享偏置向量。单元格数对应output.shape(派生自X.shape)，本例中为[?, 2, 5] .所以有 2 个单元格。

如果你想创建多层，你应该使用tf.nn.rnn_cell.MultiRNNCell接受每一层中的细胞列表的函数。