python - 增量拟合sklearn RandomForestClassifier

Question

我正在使用一个在每次迭代时生成数据的环境。我想保留先前迭代中的模型并将新数据添加到现有模型中。
我想了解模型拟合的工作原理。它将使新数据与现有模型相匹配，还是会使用新数据创建新模型。

调用新数据的拟合:

clf = RandomForestClassifier(n_estimators=100)
for i in customRange:
    get_data()
    clf.fit(new_train_data) #directly fitting new train data
    clf.predict(new_test_data)

或者 保存列车数据的历史并调用所有历史数据的拟合是唯一的解决方案

clf = RandomForestClassifier(n_estimators=100)
global_train_data = new dict()
for i in customRange:
    get_data()
    global_train_data.append(new_train_data)  #Appending new train data 
    clf.fit(global_train_data) #Fitting on global train data
    clf.predict(new_test_data)

我的目标是有效地训练模型，因此我不想浪费 CPU 时间重新学习模型。

我想确认正确的方法，也想知道该方法是否在所有分类器中保持一致

Answer 1

您的第二种方法是“正确的”，因为正如您已经猜到的那样，每次附加数据时它都会从头开始适应新的分类器；但可以说这不是您正在寻找的。

您实际上正在寻找的是参数 warm_start ;来自docs :

warm_start : bool, optional (default=False)

When set to True, reuse the solution of the previous call to fit and add more estimators to the ensemble, otherwise, just fit a whole new forest. See the Glossary.

因此，您应该使用第一种方法，并进行以下修改:

clf = RandomForestClassifier(n_estimators=100, warm_start=True)

这在各个分类器之间不一定一致(有些分类器带有 partial_fit 方法) - 例如参见 Is it possible to train a sklearn model (eg SVM) incrementally?对于SGDClasssifier ;您应该始终检查相关文档。