machine-learning - 具有不同基础学习器的 AdaBoostClassifier

Question

我正在尝试将 AdaBoostClassifier 与除 DecisionTree 之外的基础学习器一起使用。我尝试过 SVM 和 KNeighborsClassifier 但出现错误。哪些分类器可以与 AdaBoostClassifier 一起使用？

Answer 1

好的，我们有一个系统的方法来找出 AdaBoostClassifier 支持的所有基学习器。兼容的基学习器的fit方法需要支持sample_weight，可以通过运行以下代码获取:

import inspect
from sklearn.utils.testing import all_estimators
for name, clf in all_estimators(type_filter='classifier'):
    if 'sample_weight' in inspect.getargspec(clf().fit)[0]:
       print name

这会产生以下输出:

AdaBoostClassifier,
BernoulliNB,
DecisionTreeClassifier,
ExtraTreeClassifier,
ExtraTreesClassifier,
MultinomialNB,
NuSVC,
Perceptron,
RandomForestClassifier,
RidgeClassifierCV,
SGDClassifier,
SVC.

如果分类器未实现 predict_proba，您必须设置 AdaBoostClassifier 参数算法 = 'SAMME'。