Tensorflow
TF2.0的学习笔记
作为自然语言处理的非常重要的框架。
开学前进行了前期,不过后面用Pytorch比较多
忆_恒心
计算机研究生,研究方向为人工智能中的自然语言处理
在校期间获过国家奖学金,发表过SCI一区顶刊论文,CCF-B会议论文,51CTO博客专家。
研究领域:C++,自然语言处理中的细粒度情感分析。
展开
-
Tensorflow2.0 入门与实战学习笔记(补充)-模型保存与恢复
model.save()仅保存架构恢复模型(重建):还差保存优化器的状态保存检查点重新加载模型在自定义训练中保存检查点checkpoint保存变化的地方保存地方:恢复模型:取出目前最新的检查点...原创 2020-08-26 08:35:18 · 279 阅读 · 0 评论 -
Tensorflow2.0 入门与实战学习笔记(十四)-RNN循环卷积网络
他们都只能单独的取处理一个个的输入,前一个输入和后一个输入是完全没有关系的。但是,某些任务需要能够更好的处理序列的信息,即前面的输入和后面的输入是有关系的。https://zhuanlan.zhihu.com/p/30844905RNN结构具体图最后给出RNN的总括图:LSTM 网络Long Short Term网络般就叫做LSTM是一种RNN特殊的类型,可以学习长期依赖信息。在很多问题,LSTM 都取得相当巨大的成功,并得到了广 泛的使用, 它是RNN事实上的.原创 2020-08-25 13:27:16 · 985 阅读 · 0 评论 -
Tensorflow入门与实战学习笔记(十三)-FNN图像语义分割
图像语义分割上图为语义分割的一个实例,其目标是预测出图像中每一个像素的类标签图像语义分割是图像处理和是计算机视觉技术中关于图像理解的重要一环语义分割对图像中每一个像素点我们只对类别进行分割,不对实体进行分割应用场景:1、自动驾驶起床2、医学图像诊断3、无人机着陆点判断...原创 2020-08-23 11:28:28 · 806 阅读 · 0 评论 -
Tensorflow入门与实战学习笔记(十二)-图像定位
图像定位的理论知识图像和位置数据的解析和可视化我们选用的数据集有猫的图片以及头像的位置(xml)图片缩放与目标值的规范因为这个红框的位置和我们的图片大小有关原创 2020-08-15 11:45:59 · 874 阅读 · 0 评论 -
TF安装以及使用
检测pip是否最新版本:python -m pip install --upgrade pip通过豆瓣下载TFpip install tensorflow-cpu==2.2.0 -i https://pypi.douban.com/simple/原创 2020-08-13 07:59:35 · 2615 阅读 · 0 评论 -
Tensorflow2.0 入门与实战学习笔记(四)-函数式Api
如图好处是多输入的模型比如要判断两个是否是同类多输入多输出模型原创 2020-08-14 14:44:28 · 420 阅读 · 0 评论 -
Tensorflow入门与实战学习笔记(十一)-预训练网络
1 预训练网络(迁移学习)基础知识1.1迁移学习预训练网络又称为迁移学习,预训练网络是一个保存好的之前已在大型数据集(大规模图像分类任务)上训练好的卷积神经网络如果这个原始数据集足够大且足够通用,那么预训练网络学到的特征的空间层次结构可以作为有效的提取视觉世界特征 的模型。即使新问题和新任务与原始任务完全不同学习到的特征在不同问题之间是可移植的,这也是深度学习与浅层学习方法的一个重要优势。它使得深度学习对于小数据问题非常的有效。1.2 Keras内置预训练网络 Keras库中包原创 2020-08-14 14:48:18 · 679 阅读 · 0 评论 -
Tensorflow入门与实战学习笔记(十)-自定义综合实力和图片增强
0 前言:dog-cat 猫狗数据集1 读取数据2 创建dataset、猫狗数据实例-图片增强3 创建模型、损失函数与优化器在自定义训练中添加验证数据,与训练数据类似4 定义单批次训练函数5 使用kaggle训练模型模型的训练与优化猫狗数据实例-图片增强模型的进一步优化与VGG网络...原创 2020-08-14 14:47:44 · 296 阅读 · 0 评论 -
Tensorflow入门与实战学习笔记(九)-Tensorboard可视化
利用回调函数使用Tensortboard启动和界面含义的介绍自定义变量的Tensorboard可视化自定义训练中的Tensorboard可视化此时查看:原创 2020-08-14 14:47:17 · 432 阅读 · 0 评论 -
Tensorflow入门与实战学习笔记(八)--Eager模式
1 前言:我们学会使用了keras提供的api实现神经网络,可是由于他封装的太好了,对于自定义的循环与自定义的训练是不友好的我们可以使用Eage,再循环中使用Eager2 简介:TensorFlow的eager模式是一个命令式编程环境,它使得我们可以立即评估操作产生的结果,而无需构建计算图。Eager与图运算模式:简单的说:图运算就相当于把每一步的绘制出来,Eager则可以直接得出结果2.1 Eager模式方便学习以及模型调试Eager模式极大的方便我们使用TensorFlo原创 2020-08-14 14:47:00 · 682 阅读 · 0 评论 -
Tensorflow2.0入门与实战学习笔记(七)--tf.keras序列问题
文本向量:将数据处理成文本向量方便我们机器学习,与one-hot 类似,这里采用K-hot实验结果:如图可以容易得知过拟合解决过拟合问题:1、dropout2 L1、L2 正则化数据处理图像识别,猫狗数据集...原创 2020-08-14 14:46:35 · 292 阅读 · 0 评论 -
Tensorflow2.0 入门与实战学习笔记(五) 函数式api & 函数式 &卷积神经网络
1 函数式API2 卷积神经网络本文将专注于在keras中使用卷积神经网络 (CNN)来处理图像。CNN 的确是从视觉皮层的生物学上获得启发的。 简单来说:视觉皮层有小部分细胞对特定部分的视觉区域敏 感。 例如:一些神经元只对垂直边缘兴奋,另一些对水平或对角边缘兴奋。2.1 CNN基础2.1.1 工作流程CNN 工作概述指的是你挑一张图像,让它历经一系列: 卷积层、 非线性层 池化(下采样(downsampli...原创 2020-08-14 14:45:05 · 516 阅读 · 0 评论 -
Tensorflow2.0 入门与实战学习笔记(六)--批标准化&卷积神经网络(卫星图像)
前言:理论知识原创 2020-08-14 14:46:04 · 743 阅读 · 0 评论 -
Tensorflow入门与实战学习笔记(三)--Tensorflow tf.data 模块
1 tf.data模块基于 tf.data API,我们可以使用简单的代码来构建复杂的输入, tf.data API 可以轻松处理大量数据、不同的数据格式 以及复杂的转换。1.1 tf.data API 最重要的概念:tf.data.Dataset 表示一些列元素中每个元素包含一个或多个 Tensor 对象。例如,在图片管道中,一个元素可能是单个训练样本,具有一对 表示图片数据和标签的张量。1.1.1 两种不同的方式来创建tf.data.Dataset直接从 Tensor 创建 Data原创 2020-08-14 14:42:46 · 351 阅读 · 0 评论 -
Tensorflow2.0 入门与实战学习笔记(一、二)-优化函数、学习率、反向传播
理论知识1.1多层感知器1.2梯度下降法1.3 学习速率-超参数(手工可配置)不合适的学习速率局部极值点1.4 反向传播算法1.5 优化函数SGD 随机梯度 adam优化器常见参数RMSprop代码实现1.6 网络优化与超参数的选择1.6.1 如何选择超参数那么如何提高网络的拟合能力注意:单层的神经元个数,不能太小,太小的话,会造成信息瓶颈,使得模型欠拟合13W个可训练参数原创 2020-08-14 14:42:13 · 420 阅读 · 0 评论