Machine Learining
UESTC Like_czw
这个作者很懒,什么都没留下…
展开
-
各种梯度下降法的简单理解
微分如何看待微分的直观含义,有以下两种最普遍的理解:1.函数图像中,某点的斜率2.函数的变化率单变量微分:多变量微分(分别对多个变量求偏导数):梯度梯度其实就是变量偏导数的一般化,如下在单变量的函数中,梯度其实就是函数的微分,代表着函数在某个给定点的切线的斜率在多变量函数中,梯度是一个向量,向量有方向,梯度的方向就指出了函数在给定点的上升最快的方向。梯度的方向是函数在给...原创 2019-04-12 10:24:55 · 6994 阅读 · 0 评论 -
梯度下降法求解线性回归系数
我们知道多元线性回归可以表现为以下形式:代价损失函数表示如下:损失函数求偏导即梯度,迭代过程如下:运用矩阵的表达形式:梯度 ▼(theta) = X’(Xtheta-Y)/m所以矩阵更新形式可以写为:theta(n) = theta(n-1) - alphaX’(X*theta-Y)/m房价数据集包含13个自变量和一个因变量(房价),对其进行线性回归。Python Ver...原创 2019-04-12 11:20:52 · 10358 阅读 · 0 评论 -
机器学习初探 感知机模型理解与简单实例
一个简单的引导问题假设我们有以下两种标签的二维数据,标签分别为-1/1,我们想通过训练到一条直线将它们很好的分开。这条直线可能是以下这样。当然也可能是以下这样。甚至可能是斜率为负的直线。我们发现,有很多这样的直线可以将它们分开(这里举例是一个简单的例子)那么,我们如何通过训练找到其中一条直线,可以将两类很好的分开呢?这里可以用感知机的方法,这个例子是学习感知机最熟悉的配方。感知机...原创 2019-04-03 17:22:16 · 7719 阅读 · 0 评论 -
如何简单理解CNN卷积神经网络
如何快速简单理解卷积神经网络(CNN)CNN卷积神经网络常用于图像识别分类的训练,对图像分类具有很好的适应性。一张图片,通常是由成千上万个像素点组成的,如下:卷积神经网络,需要理解以下三点:什么是卷积运算什么是reLU运算什么是pooling下面一一介绍。卷积运算怎么运算的卷积运算就是将原始图片的与特定的Feature Detector(filter)做卷积运算(符号⊗)...原创 2019-05-08 14:57:01 · 7279 阅读 · 2 评论 -
tensorflow cnn实现mnist分类
前面学习了BP神经网络的基础构造和CNN卷积神经网络,我们对softmax和cnn等一些基本原理已经有所了解,这篇笔记主要记录怎么用tensorflow 实现对mnist手写数据集的分类,只涉及代码的讲解,方便以后的扩展编程。mnist手写数据集标签(0-9共10类,标签即为图片中的数字。采用onehot编码)单个输入图像样本 28X28x1(灰度图像,通道数为1)CNN构造在进行...转载 2019-05-08 15:48:49 · 5796 阅读 · 0 评论