python - Tensorflow - 如何处理序列输入数据(序列数据输入层)

Question

我有很多时间序列。 数据格式如下:

input_data = {
    'category_a': tf.Variable([[3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3,
                                3, 3, 3, 3, 3, 3, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 5, 5, 5, 5,
                                6, 6, 8, 8, 8, 8, 9, 9, 9],
                               [5, 5, 5, 5, 6, 6, 6, 6, 9, 9, 9, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,
                                0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,
                                0, 0, 0, 0, 0, 0, 0, 0, 0]], dtype=tf.int32),
    'numeric_a': tf.Variable([[0.23378488, 0.20349434, 0.20352034, 0.20349434, 0.23378488,
                               0.20352034, 0.20349434, 0.20349434, 0.23378488, 0.20352034,
                               0.20349434, 0.20349434, 0.23378488, 0.20352034, 0.20349434,
                               0.20349434, 0.23378488, 0.20352034, 0.20349434, 0.20349434,
                               0.23378488, 0.20352034, 0.20349434, 0.20349434, 0.23378488,
                               0.20349434, 0.20352034, 0.20349434, 0.20719424, 0.2086331 ,
                               0.23439065, 0.20352887, 0.23439065, 0.20352887, 0.2086331 ,
                               0.20719424, 0.23439065, 0.20352887, 0.2086331 , 0.20719424,
                               0.20352066, 0.20349434, 0.20349434, 0.20352066, 0.23267019,
                               0.2035374 , 0.24012332, 0.21045385, 0.24012332, 0.21045385,
                               0.20349434, 0.20349434, 0.20349434],
                              [0.20351858, 0.20349434, 0.20349434, 0.20351858, 0.23157308,
                               0.23044993, 0.2035374 , 0.20349434, 0.20349434, 0.20349434,
                               0.20349434, 0.        , 0.        , 0.        , 0.        ,
                               0.        , 0.        , 0.        , 0.        , 0.        ,
                               0.        , 0.        , 0.        , 0.        , 0.        ,
                               0.        , 0.        , 0.        , 0.        , 0.        ,
                               0.        , 0.        , 0.        , 0.        , 0.        ,
                               0.        , 0.        , 0.        , 0.        , 0.        ,
                               0.        , 0.        , 0.        , 0.        , 0.        ,
                               0.        , 0.        , 0.        , 0.        , 0.        ,
                               0.        , 0.        , 0.        ]], dtype=tf.float32)
}

“类别 a”代表一个分类变量，我想对其进行单热编码(与 feature_columns 指示符列一样)。 每个特征分割张量。第一个维度表示批量大小 (2)。第二个维度是具有序列长度 (53) 的时间步长。所有序列都被填充到每个批处理大小的最大序列长度。每个批处理的最大序列长度可能不同。

因此，张量中的值是该特定时间序列的给定时间步长处的特征值。

如何将这些数据输入到像 lstm 这样的模型中？

我查看了 tensorflow feature_columns ，它们使用类似格式的数据。 它们对于编码分类数据(例如，indicator_column 和 categorical_column)非常有帮助

我查看了keras.experimental.SequenceFeatures，它似乎提供了所需的功能，但我无法让它工作，并且我很难找到它的工作代码片段。

我不在乎实现是否在 Keras 中。

Answer 1

Keras LSTM 可以处理您的输入，而无需将其存储在 tensorflow 变量中。但是，对于您的情况，您需要重新格式化数据，以便批量大小是第一个维度，第二个是时间步长，第三个是特征。

model = Sequential()
model.add(LSTM(number_of_neurons, 
               activation=activation_function,
               return_sequences=False, 
               input_shape=(number_of_timesteps, number_of_features)))

input_shape 选项用于定义数据的形状。

在模型结束时，您可以在 training_data 和 training_target 中分别提供数据和目标

model.fit(training_data, 
          training_target,
          batch_size=batch, 
          epochs=epoch,
          validation_data=(test_data, test_target))

您的情况是:

[[[3.0, 0.23378488], [3.0, 0.20349434], ...]
  [5.0, 0.20351858], [5.0, 0.20349434], ...]
   ...]]]

keras 文档中的用于序列分类的堆叠 LSTM 示例是一个很好的起点: https://keras.io/getting-started/sequential-model-guide/#examples