- 博客(3)
- 资源 (4)
- 收藏
- 关注
原创 kd树(学习总结及伪代码)
代码实现:GitHub:team79\Tree\KDTree kd树是用来为求k临近而创建的数据结构,查询的平均复杂度是logN(和二叉树很像) kd树的创建 这里在创建kd树的时候,这里的算法是循环依次采取各个维度来构建二叉树,也有做法是选取数据在该维度上方差最大的那一维,因为方差大代表数据较分散,会有更好的分辨率。 插入节点 insert(Point x, KDN...
2016-07-13 17:07:20 4404 2
原创 感知机
损失函数:,M是误分类点的集合感知机算法原始形式:Novikoff定理:(证明算法收敛) 证明见《统计学习方法》31页感知机算法对偶形式:
2016-07-13 15:28:20 628
原创 梯度下降法
梯度下降法(英语:Gradient descent)是一个一阶最优化算法,通常也称为最速下降法。 要使用梯度下降法找到一个函数的局部极小值,必须向函数上当前点对应梯度(或者是近似梯度)的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索,则会接近函数的局部极大值点;这个过程则被称为梯度上升法。 梯度下降方法基于以下的观察:如果实值函数F(X)在点a处可微且有定义,那么函数F(X
2016-07-13 15:22:51 709
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人