我在分类问题中使用带有 nnet 方法的 caret 包,我想知道 nnet 中用于停止训练以避免过度拟合的停止标准是什么。
我做了一些研究,我发现在 RSNNS 包中没有实现停止标准,但它被考虑用于 future 的工作,请参见此处:https://www.jstatsoft.org/index.php/jss/article/view/v046i07/v46i07.pdf
但是对于 nnet 包,我没有找到有关所用停止标准的任何信息,或者它是否确实使用了停止标准。所以,我的问题是。 nnet 包中使用的停止标准是什么?
谢谢!!!
最佳答案
nnet 包中使用的停止标准由 abstol
定义和 reltol
nnet()
的参数功能。
abstol
Stop if the fit criterion falls below abstol, indicating an essentially perfect fit.
reltol
Stop if the optimizer is unable to reduce the fit criterion by a factor of at least 1 - reltol.
(复制自 https://cran.r-project.org/web/packages/nnet/nnet.pdf)
它们的默认值是:abstol = 1.0e-4; reltol = 1.0e-8
拟合标准是真实情况和网络输出之间的某种误差。它是迭代最小化目标函数的一部分。
有一个关于拟合标准的问题,有部分答案:
https://stats.stackexchange.com/questions/156117/what-is-the-value-of-fitting-criterion-on-the-nnet-package-in-r
关于R 脱字符 nnet 停止准则,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35492163/