我正在编写一个神经网络类,遇到了两个我不理解的概念。谁能告诉我bias
和momentum
是什么以及做什么
最佳答案
偏差是给予神经元的恒定输入。例如在普通的前馈网络中,您可能有 2 个输入单元、2 个隐藏单元和 1 个输出单元。除了来自输入单元的输入之外,一个恒定的偏置值(假设为 1)将进入隐藏单元和输出单元。
Momentum是学习开始时为了让学习更快而使用的额外学习率。例如学习错误通常最初非常大,因此您从高动量开始并更积极地调整权重。稍后在学习过程中,随着错误的减少,动量也应该减少,这样你学得更慢,但你不太可能超过目标。
关于definition - 神经网络定义,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2046933/