我是新手..我不明白为什么我们在MLP(多层感知器
)中使用阈值和偏差?阈值、偏差的作用是什么..我不知道输出的公式(我们使用激活函数后的结果,例如sigmoid)遵循偏差和阈值。在同一个文档中,我看到:
output_value=activation_function(summing_function+threshold) (follow Jeff Heaton)
output_value=activation_function(summing_function-threshold)(follow my teacher)
output_value=activation_function(summing_function+bias) (no problem!)
哪个是正确的?请给我答复!
并且,偏差和阈值可以在 MLP 中同时存在吗?
最佳答案
MLP 中的
偏差和阈值是相同的概念,只是同一事物的两个不同名称。符号并不重要,因为偏差可以是正数,也可以是负数(但更常见的是使用+偏差)。
用最简单的术语来说 - 如果没有偏差,那么对于仅输入 0
的情况,您将得到 summing_function=0
,结果也是 output_value=0
(因为大多数激活函数都会跨越原点)。因此,您的网络无法学习此类信号的任何其他行为,因为整个模型的变化部分只是权重。
从更数学的角度来看 - 这负责改变激活函数并为神经网络提供通用逼近器功能。
关于machine-learning - 神经网络中的阈值和偏差,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18353295/