docsets tensorflow_如何系统学习使用tensorflow?

一个成熟框架的最好的学习路径永远来自官方DOC

但是tensorflow经过多个版本的迭代,官方文档内容繁多,如何循序渐进,按需索取呢?

以下教学基于tensorflow官网最新版本,也就是tf2.0以上,新入门者也建议从2.0学起,抽象较为高层,api较为友好。如果你需要看一些1.0代码,也可以参考旧版文档。首先进入教程

左边栏中快速入门,keras,预处理先进行速览,Estimator属于和keras同级的高级API,可暂时不看。自定义部分讲的是较底层的自定义梯度API,有很强的自定义需求时再看。分布式训练,当你有集群时你自然会过来学习。图像,文本,结构化数据,生成这几个属于应用类,根据你兴趣点浏览,内容不多。然后进入指南

指南基本是对教程中内容做更详细的补充。重点依旧为Keras部分,tf.data部分和模型保存重点重点看,Keras部分其实是最简单的,建议学习Funtional API优先,这部分看完你就具有了搭建模型的能力。tf.data说实话是日常工作打交道最多的api,数据读进去那你的模型基本成功了一半,图片,序列,结构化数据分别怎样放入流水线,怎样加速,这些非常重要。最后模型的保存和加载部分完成,读取,建模,训练,存储,加载预测整个机器学习流水线你就能够独立完成了现在可以回过头去看教程中偏向于各类应用的代码,那么到此你对各领域的基础model的构建都比较了解了,接下来有两种学习路径。第一种,查看一些复杂模型的源代码,如keras application下自带的一些图像模型如resnet,transfomer架构下的一系列NLP模型。第二种,自己根据感兴趣的论文动手进行实现,最好可以找官方有代码的,这样可以实现后进行对比。

还要再系统一点,你感兴趣可以把所有API看一遍,虽然感觉不太有必要,建议遇到问题stackoverflow查询即可。最后补两个资料来查漏补缺:动手学深度学习,原作者李沐使用的是MXNet,该仓库是tensorflow2.0实现版

最后补几个tf下Debug方面的Tips:给每个layer或者你觉得比较重要的layer命名,这样你在报错信息中可以精确定位出错的层。

先在eager模式(默认)下,让输入数据经过每个层,看输出的矩阵是否符合预期,最后将输入数据换成Input layer即可完成模型构建。

先使用少量数据如1000个进行测试,加大学习率让模型快速拟合,这样可以证明你的模型损失是可被下降的,如果在小数据上都不能过拟合,在大数据上更无法拟合。

训练到一般出问题,如报错,loss变为nan,找到那个batch,按照第二点的方法进行调试。

使用tensorboard callback进行损失,梯度,参数分布的的观察

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值