machine-learning - Scikit Learn 从管道内的特征联合中提取特征名称

Question

我使用 SKlearn 的 Pipeline 模型来提取和构造一个统一的特征，然后将其发送到随机森林分类器，而一些特征提取器可以稍后删除或添加，请考虑以下结构:

model = Pipeline([
                  ('feature_extract',
                     FeatureUnion([
                                   ('feature A', extracorA()),
                                   ('feature B', ExtractorB()),
                                   ('feature C', FeatureUnion([
                                                      ('c1', C1Extractor())
                                                      ('c2', C2Extractor())]))
                                                                               )]),
                   ('random_forest', RandomForestRegressor(...)))])

我想通过检查来改进随机森林的预测

feature_importances_

RandomForstRegressor 的属性

我设法使用以下方法获取列表:

model._final_estimator.feature_importances_

现在我想将 feature_importances_ 索引中的列号动态链接到管道中的功能名称/步骤。

是否有一种首选方法可以在功能联合内保存/检索功能名称？您将如何解决这个问题？

Answer 1

为了使所有内容保持动态形式，您可以使用以下函数作为单独类的转换实现，并使该类的对象成为管道的一部分。您甚至可以更改评分参数。我认为网格搜索作为管道的一部分正是您正在寻找的......

def best_config(model, parameters, train_instances, judgements):
    clf = GridSearchCV(model, parameters, cv=5,
                       scoring="accuracy", verbose=5, n_jobs=4)
    clf.fit(train_instances, judgements)
    best_estimator = clf.best_estimator_

    return [str(clf.best_params_), clf.best_score_,
            best_estimator]