机器学习
文章平均质量分 58
steven_miao
热爱编程,喜欢新技术
展开
-
决策树--总结
仅以此文纪念过往的岁月 一.总结 决策树 ,顾名思义是一种决策类型的树,回想一下树的结构,存在层次和节点,其中每一个非叶节点均是一种决策类型,每一个叶子均是一种决策结果。但是其缺点存在过拟合的现象。 二.决策树简介 决策树比较符合人类的思考模式,如下示例 实例: 简单例子如下: 一个老妈向女儿推荐了一个相亲对象,一般女孩子会问一些问题,通过这些问题来判断是否去见, 女儿:多大了原创 2016-07-14 17:06:36 · 3775 阅读 · 0 评论 -
KNN算法 总结
KNN 总结总结KNN K-Nearest-Neighbor Algorithm,从算法名称来看一个待测点只要看周围K个邻居是什么就行了,符合中国一句谚语,物以类聚,人以群分。KNN算法实际就是上述谚语的数学描述,算法是现实世界的数字化。KNN既可以用于cluster也可以用于classification,对于cluster而言,KNN就是将物以类聚,其中K代表多少个类,对于classificati原创 2016-07-15 14:05:24 · 1220 阅读 · 0 评论 -
KD-Tree Python实现
KD-Tree仅以此文纪念过往的岁月简介KD-Tree 全称 K-Dimensional Tree ,KD-Tree本质是一种平衡二叉树,其一般应用于KNN分类。其关键是查询,对于KNN应用而言,一般是一次构造后,不再增加和删除节点。对某一节点计算其近邻的点。KD-Tree构造Python代码from collections import namedtuple from operator impor原创 2016-07-18 15:23:41 · 3220 阅读 · 0 评论 -
线性回归
线性回归仅以此文纪念过往岁月公式对于一些数据的线性模型如下: Y=θT∗XY = \theta^T*X 损失函数如下,什么是损失函数,即拟合值与实际值得平方差之和,为什么损失函数是该函数,可以参数斯坦福大学机器学习的课程。 J(θ)=12∑i=0m(hθ(x(i)−y(i))2J(\theta) = \frac{1} {2} \sum_{i=0}^m ( h_\theta(x^{(i)}-y^原创 2016-07-20 10:55:21 · 394 阅读 · 1 评论