![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
weixin_41774576
这个作者很懒,什么都没留下…
展开
-
机器学习笔记1 - 奥卡姆剃刀和没有免费的午餐理论
一、奥卡姆剃刀(Occam’s razor) 奥卡姆剃刀原则主张选择与经验观察一致的最简单假设,是一种常用的、自然科学研究中最基本的原则,即“若有多个假设与观察一直,则选最简单的那个”。 举个例子。假如有一些连续点,可以用二次或更复杂的函数拟合,那么就用二次函数来拟合。 问题是,怎么判断,哪一个假设更“简单”? 这就要用其他机制来来解决了,这个问题也一直困扰者研究者们,因此,对奥卡姆剃...转载 2018-07-29 11:11:26 · 757 阅读 · 0 评论 -
机器学习笔记2 - 理解机器学习中的偏差与方差
学习算法的预测误差, 或者说泛化误差(generalization error)可以分解为三个部分: 偏差(bias), 方差(variance) 和噪声(noise). 在估计学习算法性能的过程中, 我们主要关注偏差与方差. 因为噪声属于不可约减的误差 (irreducible error).首先抛开机器学习的范...转载 2018-07-30 20:09:36 · 209 阅读 · 0 评论 -
机器学习笔记3 - 偏差、方差与欠拟合、过拟合的关系
首先,我们先来理解一下偏差与方差的概念。举个高中数学里经常出现的例子,两个射击选手在射靶。甲射出的子弹很集中在某个区域,但是都偏离了靶心。我们说他的射击很稳定,但是不够准,准确性差。也就是说他的方差小(子弹很集中在某个区域),但是他的偏差大(子弹打中的地方距离靶心远)。相反,乙射出的子弹比较分散,但是有些很准,中了靶心...转载 2018-07-30 20:12:03 · 571 阅读 · 0 评论 -
机器学习笔记4 - K-最近邻算法(KNN)
一 . K-近邻算法(KNN)概述     最简单最初级的分类器是将全部的训练数据所对应的类别都记录下来,当测试对象的属性和某个训练对象的属性完全匹配时,便可以对其进行分类。但是怎么可能所有测试对象都会找到与之完全匹配的训练对象呢,其次就是存在一个测试对象同时与多个训练对象匹配,导致一个训练对象被分到了多个类的问题,基于这些问...转载 2018-08-01 22:53:52 · 235 阅读 · 0 评论 -
机器学习笔记5 - 线性分类器
线性分类器 评分函数 score function线性分类器的理解和解释损失函数 loss function 多类SVMsoftmax分类器SVM和softmax比较KNN分类器存在的不足:分类器必须记住所有的训练数据并存储起来,以便未来测试数据比较,需要很大的空间对一个测试数据需要与所有的训练数据进行比较,需要很大的计算资源和时间为此,我们需要一种更好的方法...转载 2018-08-02 14:51:53 · 346 阅读 · 0 评论 -
机器学习笔记6 - 梯度下降
梯度下降的思想梯度下降是求得函数最小值的算法。在逻辑回归中,梯度下降用来求得损失函数(或代价函数)的最小值J(θ)min。 初始随机选择权重参数组合(θ0,θ1,…,θn),计算损失函数(或代价函数),然后寻找下一个能让损失函数(或代价函数)值下降最多的权重参数组合。注:梯度下降在线性回归中求得是平方误差代价函数的最小值,逻辑回归中是求得损失函数的最小值。无论是代价函数还是损失函数(其...转载 2018-08-02 15:29:15 · 192 阅读 · 0 评论 -
机器学习笔记7 - 反向传播
理解反向传播 back propagation作用首先需要明白反向传播(back propagation)的作用: 深度学习的训练是损失函数(loss function)最小化的过程,一般采取梯度下降法求解。那么怎么计算梯度呢?这就要用到back propagation了。 计算一个数学表达式的梯度是很直接的,但计算是昂贵的。而反向传播算法使用简单的方法有效的减少了计算量,反向传播...转载 2018-08-02 21:27:05 · 379 阅读 · 0 评论 -
机器学习笔记8 - 深度学习中常用的图像数据增强方法
图像数据增强方法概述图像数据准备对神经网络与卷积神经网络模型训练有重要影响,当样本空间不够或者样本数量不足的时候会严重影响训练或者导致训练出来的模型泛化程度不够,识别率与准确率不高!本文将会带你学会如何对已有的图像数据进行数据增强,获取样本的多样性与数据的多样性从而为训练模型打下良好基础。通读全文你将get到如何几个技能:1.使用标准化对图像进行图像增强 深度学习训练-详解图像数据标准化与...转载 2018-09-13 20:41:57 · 6608 阅读 · 1 评论