关于sklearn分类器里的fit的用法

Victor0321

这次我需要完成一个自己书写集成类学习的方法，但是由于bagging的方法需要生存n个分类器，所以需要训练n次麻。clf.fit(x_train,y_train) 我需要每次都生成一个新的分类器么？ dt = DecisionTreeClassifier(**best_para_DT )
还是每次我只要在函数初始化的时候输入一个clf 然后只要不停的调用fit(x,y) 而不需要每次新生成 dt = DecisionTreeClassifier(**best_para_DT ) 就可以了

1. class Bagging_DT(object):
   
2.     '''
   
3.     算法步骤:
   
4.     1. 随机k次抽取m百分比数据
   
5.     2. 每次生成一个分类器,最终生成k个分类器
   
6.     3. 结果由k个分类器取平均值产生
   
7.     '''
   
8.     def __init__(self , k ,  best_para ):
   
9.         self.k = k #int
   
10.         self.best_para = best_para # model 的实例对象，
    
11. 
    
12.     def fit(self, x, y):
    
13.         x = np.array(x)
    
14.         y = np.array(y)
    
15.         leg =  len(x)
    
16.         self.clf_set = []
    
17.         for i in range(self.k):
    
18.             dt = DecisionTreeClassifier(**best_para_DT ) #将最好的参数输入
    
19.             rand_series = np.random.randint(leg, size = leg) #有放回的生成随机数
    
20.             dt.fit(x[rand_series], y[rand_series]) #训练svm
    
21.             self.clf_set.append(dt) #训练好的svm模型放入
    
22. 
    
23.         return self.clf_set
    
24. 
    
25.     def predict(self,x):
    
26.         results = []
    
27.         x = np.array(x)
    
28.         for clf in self.clf_set:
    
29.             clf_result = clf.predict(x)
    
30.             results.append(clf_result)
    
31. 
    
32.         #结果返回的是平均值
    
33.         res_score = np.mean( np.array(results) , axis= 0)
    
34.         res_clf = res_score.copy() #返回的是平均值
    
35.         res_score[res_score >= 0.5 ]= 1
    
36.         res_score[res_score < 0.5 ]= 0
    
37. 
    
38.         return res_score ,res_clf
    
39. 
    
40. 
    
41. # DT bagging 的实现
    
42. bag_DT = Bagging_DT(10000,  best_para_DT)
    
43. model_DT = bag_DT.fit(x_train_DT , y_train_DT )
    
44. pred_DT , pred_score_DT =  bag_DT.predict(x_val_DT)
    
45. scc_DT = accuracy_score(y_val_DT , pred_DT)
    
46. print(f"决策森林对应的正确率为{scc_DT:.3f}")
    
47. auc_DT = roc_auc_score (y_val_DT , pred_score_DT)
    
48. print(f"决策森林对应的auc为{auc_DT:.3f}")

复制代码