- 博客(236)
- 收藏
- 关注
原创 flask前后端交互
目录前端index.htmlscript.js后端app.py场景:按下按钮,将左边的下拉选框内容发送给后端,后端再将返回的结果传给前端显示。按下按钮之前:按下按钮之后:代码结构这是flask默认的框架(html写在templates文件夹内、css和js写在static文件夹内)前端index.html很简单的一个select下拉选框,一个按钮和一个文本,这里的 {{ temp }} 是从后端调用的。<html><head> <me
2022-03-30 17:17:45 6971 1
原创 读取Pytorch某个操作子的名称
class_name = str(module.__class__).split(".")[-1].split("'")[0]
2021-11-17 10:29:54 1230
原创 Python获取某.py文件中的类
假如我的.py脚本的文件路径为code_path,内容如下,可以看到只有一个类为PTModel# -*- coding:utf-8 -*-from __future__ import print_functionimport argparseimport torchimport torch.nn as nnimport torch.nn.functional as Fclass PTModel(nn.Module): def __init__(self): supe
2021-11-17 10:21:23 3381 2
原创 Pytorch与Tensorflow的操作子对比
目录LinearLinearPytorchtorch.nn.Linear(in_features, out_features, bias=True, device=None, dtype=None)Tensorflowtf.keras.layers.Dense( units, activation=None, use_bias=True, kernel_initializer='glorot_uniform', bias_initializer='zeros', k
2021-11-17 10:00:01 1253
原创 TypeError: Object of type ‘int64‘ is not JSON serializable
问题描述Traceback (most recent call last): File "extract_convert.py", line 109, in <module> f.write(json.dumps(d, ensure_ascii=False) + '\n') File "/home/pybuaa/Application/Anaconda3/envs/tf1/lib/python3.6/json/__init__.py", line 238, in dumps
2021-06-01 21:53:17 575
原创 ImportError: Missing required dependencies [‘pytz‘]
如题:ImportError: Missing required dependencies [‘pytz’]解答:pip install python-dateutil pytz --force-reinstall --upgrade
2021-03-29 09:46:12 1675
原创 【Tensorflow教程笔记】TensorFlow Hub 模型复用
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式常用
2021-03-03 17:05:38 5269
原创 机器学习中样本不平衡的处理方法
文章目录为什么样本不平衡会对结果造成影响样本不平衡的处理方法欠采样欠采样改进方法1欠采样改进方法2过采样过采样改进方法1过采样代表算法:SMOTE 算法阈值移动在现实收集的样本中,正负类别不均衡是现实数据中很常见的问题。一个分类器往往 Accuracy 将近90%,但是对少数样本的判别的 Recall 却只有10%左右。这对于我们正确找出少数类样本非常不利。举例来说:在一波新手推荐的活动中,预测用户是否会注册的背景下,不注册的用户往往是居多的,这个正负比例通常会是1:99甚至更大。一般而言,正负样本比
2021-03-03 11:00:04 719
原创 【Tensorflow教程笔记】使用 TPU 训练 TensorFlow 模型
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式常用
2021-03-02 21:28:13 6279
原创 【Tensorflow教程笔记】TensorFlow 分布式训练
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式常用
2021-03-02 20:11:07 4427
原创 【Tensorflow教程笔记】TensorFlow Lite
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式常用
2021-03-02 14:33:59 6382 1
原创 【Tensorflow教程笔记】TensorFlow Serving
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式常用
2021-02-28 22:23:50 4527 3
原创 【Tensorflow教程笔记】TensorFlow 模型导出
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式常用
2021-02-28 20:58:39 6300
原创 【Tensorflow教程笔记】常用模块 tf.config:GPU 的使用与分配
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式常用模
2021-02-28 20:15:20 7213 1
原创 【Tensorflow教程笔记】常用模块 tf.TensorArray :TensorFlow 动态数组
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式常用模
2021-02-28 17:09:58 4168
原创 【Tensorflow教程笔记】常用模块 tf.function :图执行模式
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式常用模
2021-02-28 16:50:25 15201 6
原创 【Tensorflow教程笔记】常用模块 TFRecord :TensorFlow 数据集存储格式
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理常用模块 TFRecord :TensorFlow 数据集存储格式目
2021-02-28 13:34:06 4419 6
原创 【Tensorflow教程笔记】常用模块 tf.data :数据集的构建与预处理
Tensorflow教程笔记基础TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化常用模块 tf.data :数据集的构建与预处理目录Tensorflow教程笔记数据集对象的建立提示数据集对象的预处理
2021-02-28 11:06:31 7271 3
原创 【Tensorflow教程笔记】TensorFlow Datasets 数据集载入
目录TensorFlow Datasets 数据集载入提示TensorFlow Datasets 数据集载入TensorFlow Datasets 是一个开箱即用的数据集集合,包含数十种常用的机器学习数据集。通过简单的几行代码即可将数据以 tf.data.Dataset 的格式载入。关于 tf.data.Dataset 的使用可参考 tf.data。该工具是一个独立的 Python 包,可以通过:pip install tensorflow-datasets安装。在使用时,首先使用 impo.
2021-02-28 10:39:48 11876 1
原创 【Tensorflow教程笔记】常用模块 TensorBoard:训练过程可视化
Tensorflow教程笔记TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复常用模块 TensorBoard:训练过程可视化目录Tensorflow教程笔记实时查看参数变化情况查看 Graph 和 Profile 信息实例:查看多层感知机模型的训练情况
2021-02-28 10:00:19 5418
原创 【Tensorflow教程笔记】常用模块 tf.train.Checkpoint :变量的保存与恢复
Tensorflow教程笔记TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标常用模块 tf.train.Checkpoint :变量的保存与恢复目录Tensorflow教程笔记tf.train.CheckpointCheckpoint 只保存模型的参数,不保存模型的计算过程,因此一般用于在具有模型源代码的时候恢复之前训练
2021-02-28 08:50:55 8730 2
原创 【Tensorflow教程笔记】自定义层、损失函数和评估指标
Tensorflow教程笔记TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline自定义层、损失函数和评估指标目录Tensorflow教程笔记自定义层、损失函数和评估指标自定义层自定义损失函数和评估指标自定义层、损失函数和评估指标可能你还会问,如果现有的这些层无法满足我的要求,我需要定义自己的层怎么办?事实上,我们不仅可以继承 tf.keras.Mode
2021-02-25 22:01:51 4507
原创 【Tensorflow教程笔记】Keras Pipeline
Tensorflow教程笔记TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)Keras Pipeline目录Tensorflow教程笔记Keras Sequential/Functional API 模式建立模型使用 Keras Model 的 `compile` 、 `fit` 和 `evaluate` 方法训练和评估模型前面几章的示例均使用了 Keras 的 Subclass
2021-02-25 22:00:32 4027
原创 【Tensorflow教程笔记】深度强化学习(DRL)
Tensorflow教程笔记TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)深度强化学习(DRL)目录Tensorflow教程笔记强化学习 (Reinforcement learning,RL)强调如何基于环境而行动,以取得最大化的预期利益。结合了深度学习技术后的强化学习(Deep Reinforcement learning,DRL)更是如虎添翼。近年广为人知的 AlphaGo 即是深度强化学习的典型
2021-02-25 21:31:46 5423 1
原创 强化学习基础简介
我们所熟知的有监督学习是在带标签的已知训练数据上进行学习,得到一个从数据特征到标签的映射(预测模型),进而预测新的数据实例所具有的标签。而强化学习中则出现了两个新的概念,“智能体” 和 “环境”。在强化学习中,智能体通过与环境的交互来学习策略,从而最大化自己在环境中所获得的奖励。例如,在下棋的过程中,你(智能体)可以通过与棋盘及对手(环境)进行交互来学习下棋的策略,从而最大化自己在下棋过程中获得的奖励(赢棋的次数)。如果说有监督学习关注的是 “预测”,是与统计理论关联密切的学习类型的话,那么强化学习关注
2021-02-23 16:42:25 4215 1
原创 【Tensorflow教程笔记】循环神经网络(RNN)
Tensorflow教程笔记TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)循环神经网络(RNN)目录Tensorflow教程笔记循环神经网络的工作过程文本自动生成DataLoader读取文本模型构建训练预测循环神经网络(Recurrent Neural Network, RNN)是一种适宜于处理序列数据的神经网络,被广泛用于语言模型、文本生成、机器翻译等。循环神经网络的工作过程循环神经网络是一个处理时间序列数据的神经网络
2021-02-22 13:18:45 5783 2
原创 【Tensorflow教程笔记】卷积神经网络(CNN)
Tensorflow教程笔记TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)卷积神经网络(CNN)目录Tensorflow教程笔记卷积层和池化层的工作原理使用 Keras 实现卷积神经网络使用 Keras 中预定义的经典卷积神经网络结构设置训练状态卷积神经网络 (Convolutional Neural Network, CNN)是一种结构类似于人类或动物的 视觉系统 的人工神经网络,包含一个或多个卷积层(Convolutional Layer)、池
2021-02-20 21:36:07 7723
原创 【Tensorflow教程笔记】基础示例:多层感知机(MLP)
Tensorflow教程笔记TensorFlow 基础TensorFlow 模型建立与训练基础示例:多层感知机(MLP)目录Tensorflow教程笔记数据获取及预处理: `tf.keras.datasets`TensorFlow 的图像数据表示模型的构建: `tf.keras.Model` 和 `tf.keras.layers`softmax 函数模型的训练: `tf.keras.losses` 和 `tf.keras.optimizer`交叉熵(cross entropy)与 `tf.kera
2021-02-20 20:28:49 6772 2
原创 【Tensorflow教程笔记】Tensorflow模型建立与训练
Tensorflow教程笔记TensorFlow 基础TensorFlow 模型建立与训练目录Tensorflow教程笔记模型(Model)与层(Layer)Keras 的全连接层:线性变换 + 激活函数为什么模型类是重载 `call()` 方法而不是 `__call__()` 方法?本章介绍如何使用 TensorFlow 快速搭建动态模型。模型的构建: tf.keras.Model 和 tf.keras.layers模型的损失函数: tf.keras.losses模型的优化器: tf.k
2021-02-20 18:11:56 6518
原创 【Tensorflow教程笔记】TensorFlow 基础
Tensorflow教程笔记TensorFlow 基础目录Tensorflow教程笔记计算图纸Tensor 张量意义自动求导机制基础示例:线性回归NumPy 下的线性回归TensorFlow 下的线性回归计算图纸Tensorflow 首先要定义神经网络的结构, 然后再把数据放入结构当中去运算和 training.因为TensorFlow是采用 数据流图(data flow graphs) 来计算, 所以首先我们得创建一个数据流图, 然后再将我们的数据(数据以张量(tensor)的形式存在)放在
2021-02-20 15:45:04 5983 3
原创 【Markdown数学公式】:矩阵
Markdown语法:矩阵格式如下$$ 变量名 = \begin{bmatrix}数字1 & 数字2 \\数字3 & 数字4\end{bmatrix}$$其中,&表示间隔,\\用来表示换行。结果如下:X=[1234]X = \begin{bmatrix} 1 & 2 \\ 3 & 4\end{bmatrix}X=[1324]...
2021-02-20 15:05:59 1461
原创 NLP教程笔记:NLP模型的多种应用
NLP教程TF_IDF词向量句向量Seq2Seq 语言生成模型CNN的语言模型语言模型的注意力Transformer 将注意力发挥到极致ELMo 一词多义GPT 单向语言模型BERT 双向语言模型NLP模型的多种应用目录NLP教程分类情感分析搜索公开搜索私密搜索问答知识图谱任务型机器人FAQ聊天生成翻译创作未来分类最容易想到的一种NLP应用就是将语言进行分类了。 不管你用什么模型(RNN,ELMo, GPT还是BERT), 甚至是未来还未研发出来的模型。他们都可以算是一种理解语
2021-02-07 21:56:57 1223 2
原创 NLP教程笔记:BERT 双向语言模型
NLP教程TF_IDF词向量句向量Seq2Seq 语言生成模型CNN的语言模型语言模型的注意力Transformer 将注意力发挥到极致ELMo 一词多义GPT 单向语言模型BERT 双向语言模型目录NLP教程怎么了怎么训练代码总结全部代码怎么了BERT 和 GPT 还有 ELMo 是一个性质的东西。 它存在的意义是要变成一种预训练模型,提供 NLP 中对句子的理解。ELMo 用了双向 LSTM 作为句子信息的提取器,同时还能表达词语在句子中的不同含义;GPT 呢, 它是一种单向
2021-02-07 21:08:15 2807
原创 NLP教程笔记:GPT 单向语言模型
NLP教程TF_IDF词向量句向量Seq2Seq 语言生成模型CNN的语言模型语言模型的注意力Transformer 将注意力发挥到极致GPT 单向语言模型目录NLP教程GPT是啥学习案例代码GPT注意力结果还能怎么玩全部代码今天要学习的是一个在自然语言中比ELMo更厉害的模型。 这个模型玩的不是RNN那一套循环机制,而是Transformer的注意力机制。 它成功地将Transformer的注意力运用在语言模型中,并且让模型能够非常精准的预测出答案,在很多方面让人类打开眼界。这个模
2021-02-07 17:16:57 3222
原创 NLP教程笔记:ELMo 一词多义
NLP教程TF_IDF词向量句向量Seq2Seq 语言生成模型CNN的语言模型语言模型的注意力Transformer 将注意力发挥到极致目录NLP教程怎么了词向量有问题如何训练学习案例代码总结全部代码怎么了不管是图片识别还是自然语言处理,模型都朝着越来越臃肿,越来越大的方向发展。 每训练一个大的模型,都会消耗掉数小时甚至数天的时间。我们并不希望浪费太多的时间在训练上,所以拿到一个预训练模型就十分重要了。 基于预训练模型,我们能够用较少的模型,较快的速度得到一个适合于我们自己数据的新模型
2021-02-07 14:51:59 1648
原创 NLP教程笔记:Transformer 将注意力发挥到极致
NLP教程TF_IDF词向量句向量Seq2Seq 语言生成模型CNN的语言模型语言模型的注意力Transformer 将注意力发挥到极致目录NLP教程语言多次注意力Transformer注意力模型全都是注意翻译代码结果讨论全部代码可视化语言多次注意力如果哪天有一位异性好友对你表白的回复是:“你人很好,很感谢有你的陪伴”。情场新手刚上车,第一眼看起来,好像是这个女生再夸我,激动得我眼泪要掉下来。带着这句话,让我一天都有好心情。可是当我吃完饭,再回想起她说我“人很好”,“感谢”我,这句话
2021-02-06 19:20:25 1065 2
原创 NLP教程笔记:语言模型的注意力
NLP教程TF_IDF词向量句向量Seq2Seq 语言生成模型CNN的语言模型语言模型的注意力目录NLP教程自然语言模型注意力Seq2Seq Attention 注意力机制翻译代码思考自然语言模型注意力如果说在视觉上,机器可以注意到某一个区域,那么在语言上,就是注意到某一个或多个词汇。 如果我们的任务不同,这些注意力可能会想去获取不同区域的词汇。我们举个例子如果男生代表着一种属性的注意力模型,面对这样一长串销售语言,它注意到的就是关于性能和配置的信息。 你看,如果有了注意力,那么我们
2021-02-06 11:27:02 807
原创 NLP教程笔记:CNN的语言模型
NLP教程TF_IDF词向量句向量Seq2Seq 语言生成模型CNN的语言模型目录NLP教程怎么卷积翻译秀代码局限性全部代码一想到用深度学习解决语言问题,我们自然而然的就能想到使用循环神经网络RNN这一系列的模型。 而像CNN这种专注于图像处理的模型在语言领域也能胜任吗?答案是可以的。而这次,我们就尝试使用一种CNN模型,把文字描述转化成向量表达。用一句话来概括这个CNN语言模型,我想可以这样说: 用N个不同长度时间窗口,以CNN的卷积方法在句子中依次滑动,让模型拥有N种阅读的眼界宽度,综
2021-02-05 21:16:07 1091
原创 NLP教程笔记:Seq2Seq 语言生成模型
NLP教程TF_IDF词向量句向量Seq2Seq 语言生成模型目录NLP教程什么是Encoder和Decoder翻译秀代码还能优化吗总结全部代码机器怎么理解句子一直是一个难题,以前有人尝试用句子中出现的词语频率来表达这个句子的含义(TF-IDF)。 也有人想把句子中的词语先向量化,然后再叠加句子中所有向量化的词语来表达一句话。 这些的确都是一种计算机表达句子含义的方式,但是不一定会非常准确。因为他们都只是一种对词语理解的简单加工方式,有的忽略了词语的表达顺序, 有的忽略了词语的组合模式。这往往
2021-02-05 11:37:41 1882
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人