artificial-intelligence - 为什么要识别 XOR 算子的反向传播神经网络需要偏置神经元?

标签 artificial-intelligence neural-network xor backpropagation bias-neuron

我发了一个 question昨天关于我在 XOR 算子的反向传播神经网络中遇到的问题。我做了更多的工作,并意识到这可能与没有偏置神经元有关。

我的问题是,偏置神经元的一般作用是什么,它在识别 XOR 算子的反向传播神经网络中的作用是什么?是否有可能创建一个没有偏置神经元的神经元?

最佳答案

可以创建一个没有偏置神经元的神经网络......它会工作得很好,但有关更多信息,我建议您查看此问题的答案:

Role of Bias in Neural Networks

更新:
偏置神经元在试图求解模型异或的神经网络中的作用是最小化神经网络的大小。通常,对于“原始”(不确定这是否是正确的术语)逻辑函数,例如 AND , OR , NAND等,您正在尝试创建一个具有 2 个输入神经元、2 个隐藏神经元和 1 个输出神经元的神经网络。这不能为 XOR 做因为你可以用最简单的方式对 XOR 建模有两个NAND s:

enter image description here

你可以考虑AB作为你的输入神经元,中间的门是你的“偏置”神经元,后面的两个门是你的“隐藏”神经元,最后你有输出神经元。您可以解决XOR没有偏置神经元,但它需要您将隐藏神经元的数量增加到至少 3 个隐藏神经元。在这种情况下,第三个神经元本质上充当偏置神经元。这是另一个关于 XOR 的关于偏置神经元的问题。 :XOR problem solvable with 2x2x1 neural network without bias?

关于artificial-intelligence - 为什么要识别 XOR 算子的反向传播神经网络需要偏置神经元?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/8039313/

相关文章:

machine-learning - 构建决策树时没有剩余示例的情况

python - Keras 图像生成器不断给出不同数量的标签

c - 为什么使用 XOR 而不是 OR?

c++ - 如何在 C++ 中对具有十六进制值的字符串执行按字节异或?

algorithm - 如何使用非标量输入数据/属性实现 Kohonen 映射 (SOM)

java - 使用 Spark 并行化集合

machine-learning - keras 结合预训练模型

python - PyTorch |使用数据集 Omniglot 获取 "RuntimeError: Found dtype Long but expected Float"

c++ - 可以在 C++ 中实现 XOR 链表而不会导致未定义的行为吗?

machine-learning - 您能否将 RBM 视为一种乘法神经网络?