python - 正确的 Keras/TensorFlow 激活函数用于简单的数字输入/输出

Question

我有一个包含 98 个浮点值 -5.0 < x < 5.0 的输入层和一个值为 -5.0 < x < 5.0 的单节点浮点输出

数据集非常大，有 10GB，可以轻松扩展到更大的大小。

我遇到最多麻烦的部分是激活函数。输入和输出值为 -5.0 < x < 5.0 时，最好使用什么激活函数。

此外，如果您知道哪种类型的神经网络(LSTM、CNN)、dropout、隐藏层数量、batch_size 和优化器最适合此类数据集，我们也将不胜感激。

尽管有大量的示例和信息，但我在尝试使所有这些参数适合我的数据集时遇到了相当大的麻烦。

Answer 1

您可以使用手动拉伸(stretch)'tanh'。

单独使用时，“tanh”会从 -1 返回到 +1。您可以将其乘以 5(或者可能稍微多一点，例如 5.1)来拉伸(stretch)它。

model.add(YourLastLayer(..., activation='tanh'))
model.add(Lambda(lambda x: x * 5))

<小时/>

其他问题无法回答，我们不知道您的数据集是什么，数据是如何组织的，它代表什么以及您想要实现什么。

不过，这似乎是一个经典的密集(或完全连接)网络案例。