algorithm - 我如何直观地解释 S 形神经网络模型？

Question

有多个来源，但它们的解释水平太高，我无法真正理解。

这是我对这个模型如何运作的了解；

我们使用权重 * 值在前一层的节点中前馈信息。我们在这里不使用 sigmoid 函数。这是因为如果我们在这里使用 sigmoid 函数，任何隐藏层都会强制该值为正值。如果它始终为正，则后续值永远不会小于 0.5。

当我们前馈到输出后，我们就在输出上使用 sigmoid 函数。

所以总的来说，我们只在输出层值上使用 sigmoid 函数。

我会尝试包含一个希望不会很糟糕的图表

https://imgur.com/a/4EzkpH5

我用自己的代码测试过，显然它不应该是每个值和权重的sigmoid函数，但我不确定它是否只是权重*值的总和

Answer 1

所以基本上你的模型有一组特征。这些特征是独立变量，将负责产生输出。所以特征是输入，预测值是输出。这确实是一个功能。

It is easy to understand neural networks if we study them in terms of functions.

• 首先将特征向量与权重向量相乘。也就是说，必须生成两个向量的点积。

• 如果您只有一个节点(神经元)，则点积是一个标量。在产品上应用 sigmoid 函数。输出是最终的预测。

整个模型可以表示为单个复合函数，例如，

y = sigmoid( dot( w , x ) )

如果我们将 NN 视为函数，那么理解 NN 的反向传播(梯度下降)也会产生一些直觉。 在上面的函数中，

• sigmoid:将 sigmoid 激活函数应用于参数。

• dot:返回两个向量的点积。

此外，尽可能使用矢量符号。它使您免于与求和相关的困惑。

希望对您有所帮助。