【机器学习】二分类knn模型的k值选取有什么特殊讲究吗？

御笔剑客

通常先取一个较小的k值，然后再用交叉验证法优选，还有什么需要考虑的吗？

幽梦三影

很简单，就是寻找最优超参数，sklearn代码：

1. from sklearn.model_selection import GridSearchCV
   
2. 
   
3. param = [
   
4.     # 第一个表示不考虑距离
   
5.     {
   
6.         "weights": ["uniform"],
   
7.         "n_neighbors": [k for k in range(1, 6)],
   
8.     },
   
9.     # 第二个考虑距离，比如欧拉距离、闵可夫斯基距离
   
10.     {
    
11.         "weights": ["distance"],
    
12.         "n_neighbors": [k for k in range(1, 6)],
    
13.         "p": [p for p in range(1, 4)]
    
14.     },
    
15. ]
    
16. 
    
17. knn = KNeighborsClassifier()
    
18. # n_jobs(启动多核计算), verbose(输出详细信息)
    
19. g_s = GridSearchCV(knn, param, n_jobs=-1, verbose=2)  
    
20. g_s.fit(x_train, y_train)
    
21. print(g_s.best_estimator_)
    
22. print(g_s.best_score_)

复制代码

塔利班

什么叫2类别的，，

BngThea

一般取值3-5就差不多了，具体要根据数据集的分布情况来定，所以都是设定范围搜索最优解