机器学习
枯萎的海风
向来缘浅, 奈何情深, 彼此豆蔻,谁许谁地老天荒, 敌不过似水流年, 逃不过此间少年
展开
-
[学习笔记]cs231n 图像分类与KNN
1. 参考资料中文版: http://blog.csdn.net/han_xiaoyang/article/details/49949535 英文版: http://cs231n.github.io/classification/2. 一些理解这里本质上采用的是利用图像的曼哈顿距离 作为衡量图片相似度的依据, 但是, 很明显, 这种方式进行图像分类得到的误差是非常大的。为了均衡误差, 采用 K原创 2016-12-12 14:16:36 · 529 阅读 · 0 评论 -
分类算法之决策树(Decision tree)
这篇文章主要介绍了 决策树的基本原理 以及 他的直观认识, 主要讲解了 ID3, C4.5 算法原理, 但是并没有涉及 CART 算法 (关于 CART 算法 可以参考http://www.tuicool.com/articles/VzM36z)点我进入原文3.1、摘要 在前面两篇文章中,分别介绍和讨论了朴素贝叶斯分类与贝叶斯网络两种分类算法。转载 2016-12-25 14:16:29 · 1067 阅读 · 0 评论 -
使用 sklearn 实现决策树
1. 基本环境安装 anaconda 环境, 由于国内登陆不了他的官网 https://www.continuum.io/downloads, 不过可以使用国内的镜像站点: https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/添加绘图工具 Graphviz http://www.graphviz.org/Download_windows.原创 2016-12-25 14:44:22 · 17655 阅读 · 7 评论 -
KNN 算法学习小结
1. KNN 算法小结这是一个分类的算法基于输入实例的学习, 是一种懒惰学习方式, 不需要进行任何训练 , 可用于 人脸检测, 手写数字识别等有一个非常形象的图: 算法描述: 为了判断未知实例的类别,以所有已知类别的实例作为参照选择参数K计算未知实例与所有已知实例的距离选择最近K个已知实例根据少数服从多数的投票法则(majority-voting),让未知实例归类为K个最邻近样本中最原创 2016-12-25 22:23:49 · 2494 阅读 · 0 评论 -
【实验小结】cs231n assignment1 knn 部分
1. 前言这个是斯坦福 cs231n 课程的课程作业, 在做这个课程作业的过程中, 遇到了各种问题, 通过查阅资料加以解决, 加深了对课程内容的理解, 以及熟悉了相应的python 代码实现2. 具体实现部分2.1 knn 调用程序2.1.1 简单说明knn 算法原理非常简单, 我们之前也总结过一次: http://blog.csdn.net/zhyh1435589631/article/deta原创 2017-01-08 20:40:05 · 20602 阅读 · 13 评论 -
关于使用SVD分解方法求解AX=0方程的一点说明
研究生这么多年,遇到AX=0的求解问题,从来都是使用SVD分解直接取 V矩阵的最后一列作为方程的解,但是始终没有弄明白其中的原理,最近找到几篇文章,讲解了这个问题,感觉一下子清晰了很多。核心部分:齐次线性方程组的最小二乘问题可以写成如下:min ||Ax|| s.t ||x||=1目标函数:||Ax|| = x'A'Ax = x'lamda x=lamda||x|转载 2017-03-15 11:54:34 · 19563 阅读 · 10 评论 -
奇异值分解(SVD) --- 几何意义
点我进入原文本质上,就是对于一个转换矩阵M, 可以找到在原始空间中的一组正交基,通过M 矩阵变换之后,可以得到新空间中的一组向量使得他们对应的基向量仍然正交。(感觉就是维持了一个仿射变换的关系)另外还有一篇比较好的文章: 机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用 奇异值分解(SVD) --- 几何意义转载 2017-03-15 12:07:36 · 981 阅读 · 0 评论