Eager Mode,写在TensorFlow 2.0 到来之前

于 2018-12-07 15:37:17 发布
阅读量1.4k 收藏 1
点赞数 1
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/SIGAI_CSDN/article/details/84875464
版权
本文深入探讨了TensorFlow的Eager Mode，介绍了它的引入背景、特点，如自然控制代码结构、优化调试过程和简化程序逻辑。通过实例展示了Eager Mode下的自动求导功能，并利用MNIST数据集创建并训练了一个模型，同时对比了高级API与底层API的使用体验。
摘要由CSDN通过智能技术生成

其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。

本文主要讲解了在编写基于TensorFlow的应用过程中如何使用Eager Mode。内容主要包括

  • Eager Mode简介

  • Eager Mode下的自动求导

  • 在Eager Mode下创建一个模型并进行训练。

另外，本文还提供了基于TensorFlow底层API方式编写的实现同样功能的模型，读者可以对比两种不同编写方式的异同点。

 

Eager Mode 简介

在TensorFlow 团队今年8月份发布的关于TensorFlow 2.0即将到来的公告中我们可以看到，Eager executio将作为TensorFlow 2.0 的核心特征[1]，这预示着未来将有大量基于Eager Mode的应用出现。在今年年底TensorFlow 2.0 预览版发布之前，我们首先来回顾一下目前Eager Mode的功能。本文中使用的代码是基于1.12 版本的TensorFlow, 相信在对Eager Mode的使用方式方面与2.0 版本不会有重大区别，所有代码均可在SIGAI在线编程中的sharedata/intro_to_tf路径下免费获取，欢迎大家使用。

 

Eager Mode 是由大名鼎鼎的Google Brain团队

最低0.47元/天 解锁文章
SIGAI_csdn
关注
专栏目录
博客
CVPR2019目标检测方法进展综述
03-20 1万+
SIGAI特约作者陈泰红研究方向：机器学习、图像处理目标检测是很多计算机视觉应用的基础，比如实例分割、人体关键点提取、人脸识别等，它结合了目标分类和定位两个任务。现代大多数目标检测器的框架是 two-stage，其中目标检测被定义为一个多任务学习问题：1）区分前景物体框与背景并为它们分配适当的类别标签；2）回归一组系数使得最大化检测框和目标框之间的交并比（IoU）或其它指标。最后，通过一个 ...
博客
论文解读: Quantized Convolutional Neural Networks for Mobile Devices
03-04 2966
CNN网络在许多方面发挥着越来越重要的作用，但是CNN模型普遍很大，计算复杂，对硬件的要求很高，这也是限制CNN发展的一个因素。在这篇论文中，作者提出了一个加速和压缩CNN的方法——Quantized CNN，主要思想是对卷积层和全连接层中的权重进行量化，并最小化每层的响应误差。作者也在ILSVRC-12上做了大量的实验，证明对于分类任务在仅损失很小的准确率下，该方法可以达到4-6倍的加速，和15...
博客
理解熵和交叉熵
01-19 4119
作者简介：SIGAI人工智能平台(www.sigai.cn)本文PDF版下载地址：http://www.sigai.cn/paper_80.htmlXGBoost是当前炙手可热的算法，适合抽象数据的分析问题，在Kaggle等比赛中率获佳绩。市面上虽然有大量介绍XGBoost原理与使用的文章，但少有能清晰透彻的讲清其原理的。本文的目标是对XGBoost的原理进行系统而深入的讲解，帮助大家真正理解...
博客
理解EM算法
01-15 3512
其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。[书的购买链接](https://item.jd.com/12685964.html?dist=jd)[书的勘误，优化，源代码资源](http://www.tensorinfinity.com/paper_78.html)EM（ expectatio...
博客
轻量化神经网络综述
09-28 1万+
陈泰红研究方向：机器学习、图像处理其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。书的购买链接 书的勘误，优化，源代码资源导言深度神经网络模型被广泛应用在图像分类、物体检测等机器视觉任务中，并取得了巨大成功。然而，由于存储空间和功耗的限制，神经网络模型在嵌入式设备上的存储与计算...
博客
机器学习与深度学习核心知识点总结 写在校园招聘即将开始时
08-09 2622
其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。书的购买链接 书的勘误，优化，源代码资源导言一年一度的校园招聘就要开始了，为了帮助同学们更好的准备面试，SIGAI 在今天的公众号文章中对机器学习、深度学习的核心知识点进行了总结。希望我们的文章能够帮助你顺利的通过技术面试，如果你对这些问题有什么疑问，...
博客
反向传播算法推导-卷积神经网络
08-08 7737
其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。书的购买链接 书的勘误，优化，源代码资源导言–在SIGAI之前的公众号文章“反向传播算法推导-全连接神经网络”中，我们推导了全连接神经网络的反向传播算法。其核心是定义误差项，以及确定误差项的递推公式，再根据误差项得到对权重矩阵、偏置向量的...
博客
机器学习算法地图
07-05 7231
其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。书的购买链接 书的勘误，优化，源代码资源文章《机器学习算法地图》系SIGAI原创，仅供个人学习使用，未经允许，不得转载，不能用于商业目的。如需获取原版PDF全文，可搜索关注VX公众号SIGAICN。（https://0x9.me/dxRg5）...
博客
卷积神经网络的压缩和加速
06-26 1万+
原创声明：本文为 SIGAI 原创文章，仅供个人学习使用，未经允许，不能用于商业目的。其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。书的购买链接 书的勘误，优化，源代码资源相关背景为什么要对网络进行压缩和加速呢？最实际的原因在于当前存储条件和硬件的计算速度无法满足复杂网络...
博客
《机器学习-原理、算法与应用》出版了
11-07 7030
为什么要写本书？本书的前身为《机器学习与应用》，雷明著，清华大学出版社。在第一版的基础上做了大幅度优化，并经过反复校对，最终形成此书。由于之前是第一次写书，缺乏经验，导致了书的内容过多，里面存在大量开源库代码占据篇幅。这一版改进了这些问题，且增加了不少新的内容，更为系统和全面，品质也得到了不小的提升。SIGAI微信公众号自去年4月份发布第一篇文章“机器学习-波澜壮阔40年”起，到今天为止，已...
博客
论文解读 Receptive Field Block Net for Accurate and Fast Object Detection
03-01 4751
论文解读 Receptive Field Block Net for Accurate and FastECCV 2018随着深度神经网络的发展,目前性能最佳的目标检测模型都依赖于深度的CNN主干网，如ResNet-101和Inception，虽然强大的特征表示有利于性能的提升，但却带来高额的计算成本。相反的，一些轻量级的检测模型可以实时的处理检测问题，但随之带来的是精度的牺牲。在这篇论文文中，作者探索了一种替代方案，通过使用人工设计的网络模块(hand-crafted mechanism)
博客
机器学习中的编码器-解码器结构哲学
02-27 2万+
机器学习中体现着各种工程和科学上的哲学思想，大的有集成学习，没有免费午餐，奥卡姆剃刀；小的有最大化类间差异、最小化类内差异。对于很多问题，存在着一类通行的解决思路，其中的一个典型代表就是“编码器-解码器”结构。这一看似简单的结构，背后蕴含的工程思想却非常值得我们学习和品味。
博客
【论文解读】如何让CNN高效地在移动端运行
02-22 2151
尽管最新的高端智能手机有强大的CPU和GPU，但是在移动设备上运行复杂的深度学习模型（例如ImageNet分类模型）仍然十分困难。为了可以将深度网络模型应用于移动设备，本文提出了一个简单且有效的压缩整个CNN模型的方案，称为“one-shot whole network compression”，该方案包括三个步骤：a）利用VBMF（Variational Bayesian Matrix Factorization）选择合适的秩。b）对卷积核做Tucker分解。c）参数微调（fine-tune）恢复准确率。
博客
CornerNet: Detecting Objects as Paired Keypoints论文解读
02-21 1941
#### 作者简介：SIGAI人工智能平台全文PDF下载：http://sigai.cn/paper_101.html本文提出一种使用单个卷积神经网络的新型物体检测方法: CornerNet.本文通过将目标定义为成对关键点，消除了单阶段检测网络中对anchor box的需要. 除了新颖的网络形式外,本文还介绍了角落池化(corner pooling):一种新的池化方式,它可以帮助网络更好地定位...
博客
2018年国外主要实验室和科研团队成果和动向
02-15 3077
2018年国外主要大牛和实验室动向和成果
博客
理解隐马尔可夫模型
02-14 3580
作者简介：SIGAI人工智能平台全文PDF下载：http://www.sigai.cn/paper_99.html隐马尔可夫模型（Hidden Markov Model，简称HMM）由Baum等人在1966年提出[1]，是一种概率图模型，用于解决序列预测问题，可以对序列数据中的上下文信息建模。所谓概率图模型，指用图为相互依赖的一组随机变量进行建模，图的顶点为随机变量，边为变量之间的概率关系。...
博客
基于单目视觉的三维重建算法综述
01-28 1万+
作者：SIGAI特邀作者陈泰红PDF地址：http://sigai.cn/paper_97.html三维计算机视觉在计算机视觉是偏基础的方向，随着2010年阿凡达在全球热映以来，三维计算机视觉的应用从传统工业领域逐渐走向生活、娱乐、服务等，比如AR/VR，SLAM，自动驾驶等都离不开三维视觉的技术。三维重建包含三个方面，基于SFM的运动恢复结构，基于Deep learning的深度估计和结构...
博客
哪些成为了经典-引用次数最多的10篇机器学习文献
01-23 1888
其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。书的购买链接 书的勘误，优化，源代码资源近40年来机器学习领域产生了数以万计的论文，并以每年上万篇的速度增长。但真正能够称为经典、经受住历史检验、能投入实际应用的并不多。本文整理了机器学习历史上出现的经典论文，按照被引用次数对它们进行了排序，分为top10...
博客
弯曲文字检测之SPCNet
01-21 5629
其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。书的购买链接 书的勘误，优化，源代码资源获取全文PDF请查看：弯曲文字检测之SPCNet一、简介文字检测在深度学习的推动下，最近几年取得了长足的进步。由于多媒体检索，工业自动化，视力障碍人士辅助设备等应用的需求日益增长，场景文本检测是的计...
博客
干货|手把手教你在NCS2上部署yolov3-tiny检测模型
01-16 7924
其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。书的购买链接 书的勘误，优化，源代码资源获取全文PDF；请查看http://www.tensorinfinity.com/paper_68.html如果说深度学习模型性能的不断提升得益于英伟达GPU的不断发展，那么模型的边缘部署可能就需要借助英特尔的边...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值