我正在构建一个只有卷积层的 CNN(到目前为止)。
我使用了与 ANN 相同的算法。因为 Conv 层没有完全连接并且具有共享权重,所以我不确定如何为此计算梯度和适当的统计数据。我尝试对 &Delta 权重进行平均,并使用平均值进行反向传播。经过几次测试后,我认为这行不通,它使迭代计算非常慢(每秒 1 次迭代而不是 80 次)。
如何正确反向传播 Conv 层?
如果有人有关于其他层(如池化)的反向传播的任何信息或链接,那也很好。
最佳答案
SGD(Stochastic Gradient Descent)有很多算法可以选择反向传播。你可以试着看看其中的一些,比如 - 势头 -AdaGrad -AdaDelta - 亚当 ...
关于c++ - CNN - 卷积层的反向传播,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/39321392/