机器学习
lingtianyulong
这个作者很懒,什么都没留下…
展开
-
机器学习笔记(四)
决策树文章目录决策树基本流程基本流程决策树 是一类常见的机器学习方法,是基于树结构来进行决策的,这恰是人害面临决策问题时一种很自然的处理机制。#mermaid-svg-yW0Hahz2ioy1kWgh .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-yW0Hahz2ioy1kWgh .label text原创 2020-11-11 08:53:50 · 120 阅读 · 0 评论 -
机器学习笔记(三)
线性模型文章目录线性模型3.1 基本形式3.2 线性回归3.3 对数几率回归3.4 线性判别分析3.1 基本形式给定由 ddd 个属性描述的示例 x=(x1;x2;⋯ ;xd)x = (x_1; x_2; \cdots ;x_d)x=(x1;x2;⋯;xd),其中 xix_ixi 是 x⃗\vec xx 在第 iii 个属性上的取值,线性模型(linear model) 试图学得一个通过属性的线性组合来进行预测函数,即f(x)=w1x1+w2x2+⋯+wdxd+b(3.1)f(x)原创 2020-08-25 22:54:34 · 446 阅读 · 0 评论 -
机器学习读书笔记(二)
机器学习读书笔记文章目录机器学习读书笔记第二章 模型与评估2.1 经验误差与过拟合2.2 评估方法2.2.1 留出法2.2.2 交叉验证法2.2.3 自助法2.2.4 调参与最终模型2.3 性能度量2.3.1 错误率与精度2.3.2 查准率、查全率与 F1F1F12.3.3 ROC 与 AUC2.4 比较检验2.5 偏差与方差第二章 模型与评估2.1 经验误差与过拟合错误率通常我们把分类错误的样本数占样本总数的比例称为“错误率”(error rate),即如果在 mmm 个样本中有 aaa 个样本原创 2020-07-05 16:31:52 · 431 阅读 · 0 评论 -
两个重要极限定理推导
两个重要极限定理:limx→0sinxx=1(1)\lim_{x \rightarrow 0} \frac{\sin x}{x} = 1 \tag{1}x→0limxsinx=1(1)和limx→∞(1+1x)x=e(2)\lim_{x \rightarrow \infty} (1 + \frac{1}{x})^x = e \tag{2}x→∞lim(1+x1)x=e(2)引理(夹逼定理)定义一:如果数列 {Xn}\lbrace X_n \rbrace{Xn},{Yn}原创 2020-07-03 21:31:30 · 28318 阅读 · 9 评论 -
机器学习(周志华) 读书笔记
注:关于该系列,只为整理并记录个人学习过程中,遇到的知识点整理;机器学习读书笔记文章目录机器学习读书笔记第1章 绪论1.1 引言1.2 基本术语1.3 假设空间1.4 归纳偏好1.4.1奥卡姆剃刀原则(Occam’s razor)1.4.2 没有免费午餐定理(No Free Lunch Theorem,简称 NFL 定理)第1章 绪论1.1 引言机器学习定义机器学习一门致力于研究如何通过计算的手段,利用经验来改善系统自身的性能的学科。机器学习所研究的主要内容,是关于在计算机上从数据中产生“模原创 2020-06-27 16:22:42 · 779 阅读 · 0 评论 -
《TensorFlow实战实例》的一些错误更正ValueError: Only call `sparse_softmax_cross_entropy_with_logits` with named a
在学习《TensorFlow实战Google深度学习框架》这本书的时候,发现书上提供的代码有一些错误。原因是自己的TensorFlow的版本比较高,相对于书上的版本,一些API都变了,所以有些函数在书中的程序中是错误的,所以程序在运行的时候就会报错。比如:第五章中完整的训练MNIST数据的神经网络模型的程序代码中,直接运行程序的话会遇到以下的错误。首先:Va转载 2018-02-06 21:26:11 · 1036 阅读 · 0 评论 -
TensorFlow 机器学实战指南示例代码之 TensorFlow 的多层 Layer
"""TensorFlow 的多层 Layer"""import osimport tensorflow as tfimport numpy as npos.environ['TF_CPP_MIN_LOG_LEVEL'] = '2's = tf.Session()# TensorFlow 的图像函数处理的图像是四维(图像的数量,高度,宽度和颜色通道)# 创建 4*4 像原创 2018-02-05 22:11:08 · 272 阅读 · 0 评论 -
TensorFlow 机器学实战指南示例代码之 TensorFlow 的嵌入 Layer
"""TensorFlow 的嵌入 Layer,用两个矩阵乘以占位符,然后做加法传入两个形状为 3*5的 numpy 数组,每个矩阵乘以常量矩阵(形状为:5 * 1)返回一个形状为 3 * 1 的矩阵,紧接着再乘以 1 * 1 的矩阵,返回结果仍为 3*1再加上一个 3 * 1 的数组"""import osimport numpy as npimport tensorflow原创 2018-02-05 22:09:13 · 212 阅读 · 0 评论 -
基于 OpenCV 的 LBP + SVM 人脸识别
本文中对人脸的LBP特征的提取,采用了LBP的圆形算子,通过对ORL92112人脸库中的样本进行识别,据统计,训练集与测试集的准确率均达到了100%;经LBP处理后的图像如下图所示:如上图所示,左侧图像为原图像,右侧图像为提取出的LBP图像;利用LBP圆形算子,可以非常清晰描述出人脸特征;故,可以利用LBP算子对人脸特征进行提取并识别,而且在处理过程中,不受图像的光照、旋转、角度等原创 2016-11-27 16:35:37 · 11585 阅读 · 5 评论 -
十三种基于直方图的图像全局二值化算法原理、实现、代码及效果
图像二值化的目的是最大限度的将图象中感兴趣的部分保留下来,在很多情况下,也是进行图像分析、特征提取与模式识别之前的必要的图像预处理过程。这个看似简单的问题,在过去的四十年里受到国内外学者的广泛关注,产生了数以百计的阈值选取方法,但如同其他图像分割算法一样,没有一个现有方法对各种各样的图像都能得到令人满意的结果。 在这些庞大的分类方法中,基于直方图的全局二值算法占有了绝对的市场份额,转载 2015-01-22 16:55:17 · 1797 阅读 · 0 评论 -
基于SVM+HOG的花生品种识别
早在大二时,导师做过一个花生品种识别的程序,但当时用于品种识别的特征是自定义特征;而我的当初的本科毕业设计则是基于SVM + HOG的人脸识别;在后来的工作学习中,又用到了HOG特征,想着是不是之前的花生品种的识别也能用Hog特征进行识别;正所谓学以致用,也能巩固下刚刚所学的知识;所谓的Hog特征与SVM网上资料一大堆,而且讲解得非常详细,在这里不在做过多的讲解;本程序的开发环境,原创 2015-01-19 21:30:13 · 2113 阅读 · 0 评论 -
基于朴素贝叶斯的扑克牌花色识别
本程序只对扑克牌的花色进行训练和识别,对扑克牌上的数字的识别在以后的学习中再进行完善。本次只是简单的提取了扑克牌的RGB均值、HSV均值、7 个不变矩以及长宽比等14个简单的特征,其中,长宽比为了防止图像的位置等因素的影响,提取了目标区域的最小外接矩形。部分图像如下图所示:特征提取的部分代码如下所示:void CPokeAlgorithmDlg::CollectCh原创 2015-02-05 21:17:51 · 4109 阅读 · 1 评论 -
机器学习中的相似性度量
在做分类时常常需要估算不同样本之间的相似性度量(Similarity Measurement),这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距离是很讲究,甚至关系到分类的正确与否。 本文的目的就是对常用的相似性度量作一个总结。本文目录:1. 欧氏距离2. 曼哈顿距离3. 切比雪夫距离4. 闵可夫斯基距离5. 标准化欧氏距转载 2014-06-30 08:22:26 · 612 阅读 · 0 评论 -
基尼不纯度(Gini impurity)
决策树是一种简单的机器学习方法。决策树经过训练之后,看起来像是以树状形式排列的一系列if-then语句。一旦我们有了决策树,只要沿着树的路径一直向下,正确回答每一个问题,最终就会得到答案。沿着最终的叶节点向上回溯,就会得到一个有关最终分类结果的推理过程。决策树:1234567class de转载 2014-06-25 21:35:26 · 29501 阅读 · 0 评论