machine-learning - 逻辑回归分类器的 Bootstrap 聚合(装袋)

标签 machine-learning regression logistic-regression resampling statistics-bootstrap

因此,我采用 N 个引导样本并在这些样本上训练 N 个逻辑回归分类器。每个分类器都会给我一些属于二元类的概率,然后我对这 N 个概率进行平均以获得最终预测。

我的问题是,如果我取 N 组回归系数并对它们进行平均,然后在逻辑回归分类器中使用该组平均系数,并将输出概率作为最终预测,这与取平均值相同吗?上一段中描述的结果 N 个概率?

最佳答案

答案是否定的,因为逻辑函数是非线性的:1/(1+exp(-a)) + 1/(1+exp(-b)) 不等于1/(1+exp(-(a+b)))

但是逻辑函数的反函数(也称为对数赔率)是线性的 ( g(x) in this wiki page )。如果您正在计算对数赔率,则可以在装袋过程中对相应系数(页面中的 beta0beta1)进行平均。

关于machine-learning - 逻辑回归分类器的 Bootstrap 聚合(装袋),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/21760618/

相关文章:

python - 实现随机梯度下降

r - GAM 中的权重选项

r - 从线性模型绘制交互效果的最佳方法

python - 尽管显式返回一维数组,但使用 scipy Optimize 进行 2 次迭代后出现 ValueError

r - 因子: Error in eval(family$initialize) : y values must be 0 <= y <= 1的Logistic回归

python - TensorFlow中标准化函数的作用是什么?

python-3.x - 使用 PCA 降维,同时保留百分比方差

R ValueError : Error when checking input: expected simple_rnn_input to have 3 dimensions, 但得到形状为 (1661, 3) 的数组

python - 使用 xgboost 算法预测值

r - 在 mclogit 中编码随机效应