machine-learning - 神经网络中的阈值和偏差

标签 machine-learning neural-network terminology

我是新手..我不明白为什么我们在MLP(多层感知器)中使用阈值和偏差?阈值、偏差的作用是什么..我不知道输出的公式(我们使用激活函数后的结果,例如sigmoid)遵循偏差和阈值。在同一个文档中,我看到:

output_value=activation_function(summing_function+threshold) (follow Jeff Heaton)
output_value=activation_function(summing_function-threshold)(follow my teacher)
output_value=activation_function(summing_function+bias) (no problem!)

哪个是正确的?请给我答复!

并且,偏差和阈值可以在 MLP 中同时存在吗?

最佳答案

MLP 中的

偏差阈值是相同的概念,只是同一事物的两个不同名称。符号并不重要,因为偏差可以是正数,也可以是负数(但更常见的是使用+偏差)。

用最简单的术语来说 - 如果没有偏差,那么对于仅输入 0 的情况,您将得到 summing_function=0,结果也是 output_value=0 (因为大多数激活函数都会跨越原点)。因此,您的网络无法学习此类信号的任何其他行为,因为整个模型的变化部分只是权重

从更数学的角度来看 - 这负责改变激活函数并为神经网络提供通用逼近器功能。

关于machine-learning - 神经网络中的阈值和偏差,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18353295/

相关文章:

parsing - 抽象语法树和具体语法树有什么区别?

c++ - 变量的声明、定义和初始化有什么区别?

python - 使用 Keras 稀疏分类交叉熵进行逐像素多类分类

python - 数据增强完成后会发生什么?

python - 在 ubuntu 上使用 Anaconda for python 3.4 安装 opencv

java - 将支持 vector 机与 Encog 3 和多输出一起使用

opencv - 是否可以在 Opencv 神经网络的不同层中使用不同类型的激活函数?

javascript - Brain.js 倒数/反转训练(根据输出预测输入)

xml - xml 单个/独立标记的终止部分叫什么?

machine-learning - 如何在多种类型特征上训练支持向量机