K近邻法
本书为分类K近邻法,多分类。
查找最近邻,kd树方法
1.制造kd树,
2.搜索最近叶节点,间距画圆
3.向上找到父节点,搜索父节点的叶节点找最近距离
4.continue
距离度量
Lp范数
朴素贝叶斯估计
极大似然估计:
P(Y=Ck)=Ck的数量/总数量N
例如:X 的取值: [2,4,64,3,5,2,6,6,5,2,3]
则2可能出现的概率
P(Y=2)= 3(2的数量) / 11(X的所有可能)
Ck的条件下X等于某数值a的概率 = X集合同一位置a=Ck的个数/Ck的总数
朴素贝叶斯估计使用极大似然估计作为概率预测值
极大似然估计估计可能出现概率为0情况,所以引出分子分母增加λ常数——贝叶斯估计