Tensorflow学习笔记
文章平均质量分 94
这里整理有关Tensor flow学习过程中的笔记内容,包括Tensor flow和Keras
翻滚的小@强
毕业于某985高校,计算机技术专业,研究方向是数据挖掘和时空序列预测,在学校学习过一些机器学习和深度学习的皮毛,入门过推荐系统,计算机视觉以及NLP和大数据等领域,目前在做大数据分析和挖掘相关的工作, 对人工智能,大数据等各种前沿计算机技术以及其他领域的新事物都特别感兴趣,一直奔跑在学习的路上, 欢迎伙伴们一块学习, 一起交流呀......
展开
-
TensorFlow2.x保存与加载带有自定义层模型以及使用子模块采坑小记
1. 写在前面做时空数据预测毕设的时候, 遇到的一个需求就是想用Transformer搭建一个特征提取器, 模型的输入是滑动窗口切分好的时空数据, 维度[batch, seq_len, observepoint_num] , 解释的话,就是一个表面有m个观测点, 每个观测点每天会测量一次温度, 那么如果是预测整个平面温度趋势的话,就是需要先用滑动窗口,采用过去几天的数据切割,所以就得到了这样的一个三维初始数据。我的想法是先让这个数据集过一个Transformer特征提取器,这样就能获取全局信息, 得到各原创 2022-02-25 18:00:26 · 2987 阅读 · 7 评论 -
实习经验小记:如何把数据里面自带的embedding通过网络完成交互(预训练)以及一个Keras报错ValueError: Graph disconnected
1. 写在前面今天在搭建模型的时候遇到了一个报错:ValueError: Graph disconnected: cannot obtain value for tensor Tensor(“input_14:0”, shape=(None, 24, 9, 1), dtype=float32) at layer “input_14”. The following previous layers were accessed without issue: []我这边的场景是这样: 在推荐的排序阶段,原创 2021-07-01 20:23:27 · 1130 阅读 · 0 评论 -
tensorflow2中的遮盖和填充(padding&mask)以及dnamic_rnn学习笔记
1. 写在前面最近在用deepctr代码风格复现DIN模型的时候, 无意间发现了tf文档里面有关于变长序列的遮盖和填充的相关知识点,今天抽了一下午的时间快速学习了一下,结合着复现DIN模型时遇到的一个坑, 做了几个小实验感受了一下这个知识点的具体使用情况。 另外, 又顺便复习了下tf1中的动态RNN(dynammic_rnn), 因为这两天复现DIEN时在兴趣抽取层那里卡住了, 我一直好奇兴趣抽取层那里是怎么计算呢? 原始的行为序列padding之后,经过GRU得到的隐藏状态的输出后,是不是就没法识别出之原创 2021-02-28 21:12:33 · 2532 阅读 · 1 评论 -
keras 报错:TypeError: The added layer must be an instance of class Layer
场景:在迁移学习过程中,利用原有网络的除全连接层的结构及参数,新增加全连接层训练自己的分类器问题描述: 利用keras的Sequential堆叠layer时出现了TypeError: The added layer must be an instance of class Layer解决方案: 检查keras的导入,如果出现使用tensorflow.python.keras方式引用和keras...转载 2020-04-23 09:03:30 · 7810 阅读 · 0 评论 -
Keras训练模型报错:Failed to get convolution algorithm. This is probably because cuDNN failed to initialize
今天使用Keras训练模型的时候报了下面的一个错误:这个提示是显存不够了,更改为动态分配内存就可以了。解决办法: 在训练的脚本开头添加以下代码进行动态分配内存,然后重新运行就可以。import tensorflow as tfimport kerasconfig = tf.ConfigProto()config.gpu_options.allow_growth = Trueker...转载 2020-04-22 12:09:27 · 632 阅读 · 0 评论 -
对keras.permute_dimensions和numpy.transpose空间维度转置过程的理解(Axis的理解)
keras.permute_dimensions和numpy.transpose,这两个函数的作用是对矩阵进行维度的转置, 具体请参考官方文档,这里只给出矩阵维度转置是怎么理解的?1. 写在前面今天遇到一个时间序列分析的任务,使用了Attention机制,看代码之后,有几个空间转置的过程其实有点懵。所以通过查资料理解了一下空间维度转置,顺便理解了一下三维矩阵的沿着某一个轴的加法,我把自己的理...原创 2020-03-10 22:44:46 · 4954 阅读 · 2 评论 -
深度学习框架之Keras感知:快速搭建生成对抗网络(GAN)生成自己想要的图片
1. 写在前面如果是刚入深度学习的新手小白,可能有着只学习了一点深度学习的理论,也见识到了各种神经网络的强大而不能立马实现的烦恼,想学习TensorFlow,pytorch等出色强大的深度学习框架,又看到那代码晦涩难懂而有些想知难而退,这时候,我觉得有必要掌握一下Keras了,这是个啥? Keras是高级神经网络API,因为Keras短小精悍,非常适合快速原型制作和神经网络的搭建。在很短的时间内...原创 2020-02-28 22:55:38 · 6400 阅读 · 5 评论 -
深度学习框架之Keras感知:快速搭建各种经典卷积神经网络(LeNet、AlexNet、VGG16)玩转手写数字识别
1. 写在前面如果是刚入深度学习的新手小白,可能有着只学习了一点深度学习的理论,也见识到了各种神经网络的强大而不能立马实现的烦恼,想学习TensorFlow,pytorch等出色强大的深度学习框架,又看到那代码晦涩难懂而有些想知难而退,这时候,我觉得有必要掌握一下Keras了,这是个啥? Keras是高级神经网络API,因为Keras短小精悍,非常适合快速原型制作和神经网络的搭建。在很短的时间内...原创 2020-02-21 22:06:33 · 3742 阅读 · 0 评论 -
深度学习框架之Keras初识:像搭积木般的玩转神经网络
1. 写在前面如果是刚入深度学习的新手小白,可能有着只学习了一点深度学习的理论,也见识到了各种神经网络的强大而不能立马实现的烦恼,想学习TensorFlow,pytorch等出色强大的深度学习框架,又看到那代码晦涩难懂而有些想知难而退,这时候,我觉得有必要掌握一下Keras了,这是个啥? Keras是高级神经网络API,因为Keras短小精悍,非常适合快速原型制作和神经网络的搭建。在很短的时间内...原创 2020-02-21 18:39:03 · 3029 阅读 · 0 评论