损失是否取决于学习率和批量大小。例如,如果我保持批量大小为 4,学习率为 0.002,那么损失不会收敛,但如果将批量大小更改为 32,保持学习率相同,我会得到一条收敛的损失曲线。这样可以吗?
最佳答案
我想说,损失很大程度上取决于您在训练中使用的参数。另一方面,我不会将其称为数学函数的依赖关系,而是关系。
如果您的网络无法学习,您需要调整参数(架构、学习率、批量大小等)。
很难对您的问题给出更具体的答案。哪些参数合适取决于问题。但是,如果它收敛并且您可以验证您的解决方案,我会说您没问题。
关于machine-learning - 学习率、损失和批量大小,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/59982770/