![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
张启露
意志在于磨练,成功在于坚持
展开
-
深入了解机器学习-tensorflow创建和操控张量
学习目标:初始化 TensorFlow Variable 并赋值创建和操控张量回忆线性代数中的加法和乘法知识(如果这些内容对您来说很陌生,请参阅矩阵加法和乘法简介)熟悉基本的 TensorFlow 数学和数组运算from __future__ import print_functionimport tensorflow as tftry: tf.contrib.eager....原创 2018-11-09 18:38:49 · 426 阅读 · 0 评论 -
深入了解机器学习之降低损失 (Reducing Loss):学习速率
梯度矢量具有方向和大小。梯度下降法算法用梯度乘以一个称为学习速率(有时也称为步长)的标量,以确定下一个点的位置。例如,如果梯度大小为 2.5,学习速率为 0.01,则梯度下降法算法会选择距离前一个点 0.025 的位置作为下一个点。超参数是编程人员在机器学习算法中用于调整的旋钮。大多数机器学习编程人员会花费相当多的时间来调整学习速率。如果您选择的学习速率过小,就会花费太长的学习时间:图 6....原创 2018-11-12 18:42:26 · 1001 阅读 · 0 评论 -
机器学习中的常用超参数
steps:训练迭代的总次数。一步计算一批样本产生的损失,然后使用该值修改一次模型的权重。batch size:单步的样本数量(随机选择)。例如,SGD 的批次大小为 1。以下公式成立:periods:控制报告的粒度。例如,如果 periods 设为 7 且 steps 设为 70,则练习将每 10 步输出一次损失值(即 7 次)。与超参数不同,我们不希望您修改 periods 的值。请注...原创 2018-11-15 18:30:25 · 1655 阅读 · 0 评论 -
深入了解机器学习TensorFlow 编程概念
一 学习目标:学习 TensorFlow 编程模型的基础知识,重点了解以下概念:张量指令图会话构建一个简单的 TensorFlow 程序,使用该程序绘制一个默认图并创建一个运行该图的会话二 概念概览TensorFlow 的名称源自张量,张量是任意维度的数组。借助 TensorFlow,您可以操控具有大量维度的张量。即便如此,在大多数情况下,您会使用以下一个或多个低维张量:标...原创 2018-11-08 19:56:42 · 378 阅读 · 0 评论 -
深入了解机器学习-准备之主要概念
一 数学1 代数变量、系数和函数线性方程式,例如 y = b +w1x1 +w2x2对数和对数方程式,例如 y = In(1+ez)S 型函数前面几个知识点比较好理解,我们看一下 S 型函数S型函数(Sigmoid function)是BP神经网络中常用的非线性作用函数,即sigmoid函数,公式是f(x)=1/(1+e^-x)(-x是幂数)。Sigmoid函数又分为...原创 2018-11-08 14:42:20 · 402 阅读 · 0 评论 -
深入了解机器学习之降低损失 (Reducing Loss):随机梯度下降法
在梯度下降法中,批量指的是用于在单次迭代中计算梯度的样本总数。到目前为止,我们一直假定批量是指整个数据集。就 Google 的规模而言,数据集通常包含数十亿甚至数千亿个样本。此外,Google 数据集通常包含海量特征。因此,一个批量可能相当巨大。如果是超大批量,则单次迭代就可能要花费很长时间进行计算。包含随机抽样样本的大型数据集可能包含冗余数据。实际上,批量大小越大,出现冗余的可能性就越高。一些...原创 2018-11-13 13:53:15 · 631 阅读 · 0 评论 -
深入了解机器学习之降低损失 (Reducing Loss):梯度下降法
迭代方法图(图 1)包含一个标题为“计算参数更新”的华而不实的绿框。现在,我们将用更实质的方法代替这种华而不实的算法。假设我们有时间和计算资源来计算 的所有可能值的损失。对于我们一直在研究的回归问题,所产生的损失与 的图形始终是凸形。换言之,图形始终是碗状图,如下所示:图 2. 回归问题产生的损失与权重图为凸形。凸形问题只有一个最低点;即只存在一个斜率正好为 0 的位置。这个最小值就是...原创 2018-11-10 16:48:05 · 1445 阅读 · 0 评论 -
深入了解机器学习之降低损失:迭代方法
迭代学习可能会让您想到“Hot and Cold”这种寻找隐藏物品(如顶针)的儿童游戏。在我们的游戏中,“隐藏的物品”就是最佳模型。刚开始,您会胡乱猜测(“w1 的值为 0。”),等待系统告诉您损失是多少。然后,您再尝试另一种猜测(“ 的值为 0.5。”),看看损失是多少。哎呀,这次更接近目标了。实际上,如果您以正确方式玩这个游戏,通常会越来越接近目标。这个游戏真正棘手的地方在于尽可能高效地找到最...原创 2018-11-10 16:12:24 · 1679 阅读 · 0 评论 -
深入了解机器学习 (Descending into ML):训练与损失
简单来说,训练模型表示通过有标签样本来学习(确定)所有权重和偏差的理想值。在监督式学习中,机器学习算法通过以下方式构建模型:检查多个样本并尝试找出可最大限度地减少损失的模型;这一过程称为经验风险最小化。损失是对糟糕预测的惩罚。也就是说,损失是一个数值,表示对于单个样本而言模型预测的准确程度。如果模型的预测完全准确,则损失为零,否则损失会较大。训练模型的目标是从所有样本中找到一组平均损失“较小”的...原创 2018-11-10 14:54:38 · 635 阅读 · 0 评论 -
深入了解机器学习 (Descending into ML):线性回归
人们早就知晓,相比凉爽的天气,蟋蟀在较为炎热的天气里鸣叫更为频繁。数十年来,专业和业余昆虫学者已将每分钟的鸣叫声和温度方面的数据编入目录。Ruth 阿姨将她喜爱的蟋蟀数据库作为生日礼物送给您,并邀请您自己利用该数据库训练一个模型,从而预测鸣叫声与温度的关系。首先建议您将数据绘制成图表,了解下数据的分布情况:图 1. 每分钟的鸣叫声与温度(摄氏度)的关系。毫无疑问,此曲线图表明温度随着鸣叫声...原创 2018-11-10 14:07:31 · 568 阅读 · 1 评论 -
深入了解机器学习主要术语
1 什么是(监督式)机器学习?简单来说,它的定义如下:机器学习系统通过学习如何组合输入信息来对从未见过的数据做出有用的预测。下面我们来了解一下机器学习的基本术语。2 标签标签是我们要预测的事物,即简单线性回归中的 y 变量。标签可以是小麦未来的价格、图片中显示的动物品种、音频剪辑的含义或任何事物。3 特征特征是输入变量,即简单线性回归中的 x 变量。简单的机器学习项目可能会使用单个特...原创 2018-11-10 12:04:09 · 395 阅读 · 0 评论 -
深入了解机器学习之使用 TensorFlow 的起始步骤 (First Steps with TensorFlow):工具包
下图显示了 TensorFlow 工具包的当前层次结构:图 1. TensorFlow 工具包层次结构。下表总结了不同层的用途:TensorFlow 由以下两个组件组成:图协议缓冲区执行(分布式)图的运行时这两个组件类似于 Java 编译器和 JVM。正如 JVM 会实施在多个硬件平台(CPU 和 GPU)上一样,TensorFlow 也是如此。您应该使用哪个 API?您应该...原创 2018-11-14 18:22:52 · 374 阅读 · 0 评论