当我们说“深度神经网络的非线性”时,在这种情况下“非线性”一词实际上是什么意思?
此外,激活函数的目的是将非线性引入网络。这种非线性意味着什么? (我是深度学习的新手。)
最佳答案
非线性意味着输出无法从输入的线性组合中再现(这与呈现为直线的输出不同 - 对应的词是仿射)。
另一种思考方式:如果网络中没有非线性激活函数,神经网络无论有多少层,其行为都会像单层感知器一样,因为将这些层相加即可得出另一个线性函数(参见上面的定义)。
关于machine-learning - 深度神经网络的非线性意味着什么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/47933601/