1.6 KNN算法学习——KNN算法中超参数的探索

寻找最好的k

在KNN算法中,k需要提前指定,那么k取多少为最优值?

此处通过for循环创建多个分类器进行比较分类准确率

代码搜索:


验证的结果为k=4时准确率最高,这个过程即所谓调参的过程,寻找最好的超参数的值

注:如果找到的最优值在边界上,很有可能最好值在搜索范围之外,所以应该再往上(下)调整范围以寻找最优的值,因为不同参数决定了不同的准确率,他们之间呈连续型变换的。

KNN中其他超参数
权重weight(考虑权重或不考虑权重)


如图,虽然蓝色投票结果比红色为2:1蓝色获胜但是1票的红色点其实离得更近些,另外投票还有可能产生平票,任意取一个结果并不准确,所以距离上应该考虑权重,考虑权重后红色获胜

代码搜索:


参数p

其他的距离定义

通用的开跟的最短距离为欧拉距离,即图中的绿色

还有曼哈顿距离,图中的红蓝黄均是


将距离一般化即为


一般后的称作明可夫斯基距离,距离中有一个参数p,p取多少准确率最高呢?


代码搜索:


更多的超参数:



学习API:

点击打开链接

  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值