【因果学习】贝叶斯网络结构学习方法

  随机对照试验是发现因果关系的黄金准则,然而现实世界中很多问题往往由于道德伦理的原因不允许我们设置干预进行试验,这就引发了在观测数据上学习因果关系的需求。贝叶斯网络是概率论与图论相结合的产物,它用图论的方式直观地表达各变量之间的因果关系,为多个变量之间的复杂依赖关系提供了紧凑有效、简洁直观的统一...

2018-12-08 16:45:53

阅读数:37

评论数:0

机器学习中的信息论

自信息量   一个事件的自信息量是该事件发生概率的负对数,事件发生的概率越大,自信息量越少,反之自信息量越多。也称不确定性函数,具有可加性。定义自信息量I(x)I(x)I(x): I(x)=log(1p(x))I(x)=log⁡(1p(x)) I(x)=\log\left(\frac{1}{p...

2018-09-16 09:44:25

阅读数:93

评论数:0

【Pytorch】CIFAR-10分类任务

CIFAR-10数据集共有60000张32*32彩色图片,分为10类,每类有6000张图片。其中50000张用于训练,构成5个训练batch,每一批次10000张图片,其余10000张图片用于测试。 CIFAR-10数据集下载地址:点击下载 数据读取,这里选择下载python版本的数据集,...

2018-07-16 16:23:36

阅读数:552

评论数:0

【环境配置】配置压缩包版MySQL

解压mysql-xx.xx-winx64.zip至合适目录,将MySQL根目录下的bin文件夹添加至系统环境变量path中:D:\MajorProgram\MySQL\mysql-5.7.21\bin编辑my.ini配置文件,存放在MYSQL根目录下,my.ini下载地址。将配置文件中的based...

2018-06-22 20:01:47

阅读数:65

评论数:0

【Tensorflow】Tensorboard使用笔记

Tensorboard通过读取Tensorflow的事件文件来运行,以图表的形式展示汇总数据(summary data)。首先,创建想要汇总数据的Tensorflow图,然后选择想在哪个节点进行汇总(summary)操作。使用tf.summary.scalar记录标量使用tf.summary.hi...

2018-06-22 14:30:46

阅读数:159

评论数:0

【Tensorflow】模型保存与读取

Tensorflow模型结构Meta graph:保存网络图结构,包括计算图中的变量,操作,集合,文件扩展名为.meta。.data和.index文件:保存训练好的参数。Checkpoint file:记录最新的模型。保存模型# 定义saver类 # 指定max_to_keep参数来选择保存最新的...

2018-06-21 15:02:44

阅读数:123

评论数:0

【Tensorflow】使用笔记

tf.dynamic_rnnsequence_length:这个参数用来指定每个example的长度,比如上面的例子中,我们令 sequence_length为[20,13],表示第一个example有效长度为20,第二个example有效长度为13,当我们传入这个参数的时候,对于第二个examp...

2018-06-21 11:03:00

阅读数:50

评论数:0

【Tensorflow】Bi-LSTM文本分类

用于训练的计算图#训练图 train_graph = tf.Graph() with train_graph.as_default(): #输入文本维度为[time_step,batch_size,embedding_size] encoder_inputs = tf.placeh...

2018-06-07 10:50:01

阅读数:1589

评论数:0

【论文笔记】Effective Approaches to Attention-based Neural Machine Translation

论文链接   本文针对NMT任务使用的attention机制提出两种结构,global attention将attention作用于全部输入序列,local attention每个时间步将attention作用于输入序列的不同子集。前者被称为soft attention,其原理和论文1一样,后者是...

2018-05-31 13:49:53

阅读数:404

评论数:1

【论文笔记】SPPnet

论文链接               CNN模型在识别图片前需要将图片预处理(如裁剪,扭曲)成同样大小尺寸,流程如下图所示。这一步骤不仅繁琐而且由于尺寸变化可能会影响识别精度。        事实上卷积层、池化层、激活层可以适应任意尺寸图片,但用于分类的全连接层需要固定尺寸的输入。为了解决这一问题...

2018-05-31 10:55:57

阅读数:92

评论数:0

【论文笔记】neural machine translation by jointly learning to align and translate

1.neural machine translation by jointly learning to align and translate   这篇文章是将attention机制应用于机器翻译上,普通的seq2seq模型要将输入文本的信息编码至固定长度的隐向量中,当面对长文本时会损失许多信息,...

2018-05-30 14:31:24

阅读数:598

评论数:1

【Tensorflow】文本自编码器

使用文本序列的word2vec词向量作为seq2seq模型的输入和输出,训练得到中间层的文本特征表示,可进一步进行分类任务等,encoder和decoder都使用LSTM。import tensorflow as tf import numpy as np import re from gensi...

2018-05-30 09:57:18

阅读数:500

评论数:0

【论文笔记】Bag of Tricks for Efficient Text Classification

    这篇文章写的是Facebook推出的FastText,能够快速在海量文本数据上进行分类任务和表示学习,可以用一个普通的多线程CPU在十分钟内训练百万级的语料,一分钟内将五十万文本分类到三十万个类别中。    最近几年深度学习在NLP任务上虽取得了显著地成就,但此类模型无论是训练还是测试阶段...

2018-05-25 10:22:33

阅读数:583

评论数:0

【论文笔记】GloVe: Global Vectors forWord Representation

摘要    词向量的成功捕捉到了细粒度的语义信息和语法规则,本文提出的方法融合了主流模型的优点:全局矩阵分解(LSA)和局部内容窗口(Word2vec),充分利用统计信息使用词共现矩阵中频率非零的元素来训练模型。引言    使用向量空间来表示自然语言可以做为许多NLP任务(文本分类,信息检索......

2018-05-22 21:06:38

阅读数:786

评论数:0

使用gensim的doc2vec生成文档向量

doc2vec是word2vec的延伸,同样使用无监督方法利用上下文对词语和文档向量进行训练。doc2vec的输入是TaggedDocument向量,它包括word_list和tags两部分,word_list是文档的分词列表,如['火箭','是','总冠军',]。tags是文档的标签列表。比如可...

2018-05-09 16:15:52

阅读数:1391

评论数:0

【论文笔记】文本分类(text classification)论文整理

Distributed Representations of Sentences and Documents这篇文章借鉴了word2vec的方法来训练长文本向量,如句子,段落,文档。首先随机初始化文本向量和文本中词的词向量,利用skip-gram和CBOW模型(在文中称为PV_DM和PV_DBOW...

2018-05-04 16:49:23

阅读数:814

评论数:0

【论文笔记】命名实体识别(NER)论文整理

Bidirectional LSTM-CRF Models for Sequence Tagging论文链接:https://arxiv.org/abs/1508.01991这篇文章比较了NLP几个经典任务:词性标注,命名实体识别上的模型,包括CRF,LSTM,Bi-LSTM,LSTM-CRF,B...

2018-05-03 10:23:27

阅读数:1004

评论数:0

【论文笔记】Generative Adversarial Networks

论文链接:GenerativeAdversarial Networks        该文提出一种新颖的对抗式生成模型架构,这种框架同时训练两个模型,一个是生成模型G,用来习得数据的真实分布,一个是判别模型D,用来判断一个样本是否是真实样本。G的训练过程就是尽可能地让D犯错误,该网络最后的目标就是...

2018-04-19 16:49:46

阅读数:264

评论数:0

【Python】python包管理工具pip更换软件源

linux系统:创建或者修改~/.pip/pip.conf文件:sudo gedit ~/.pip/pip.conf内容如下:[global] index-url = https://pypi.tuna.tsinghua.edu.cn/simpleWindows系统:修改或者创建C:\Users\...

2018-04-19 13:54:41

阅读数:38

评论数:0

【Caffe】使用caffe的MATLAB接口

        首先下载并安装MATLAB,caffe支持如下版本的MATLAB:2015a, 2014a/b, 2013a/b,  2012b,具体的安装过程都差不多这里不再赘述。 编译好caffe并安装好MATLAB后,首先编辑caffe根目录的Makefile.config文件,取消注释并修...

2018-04-17 21:31:45

阅读数:53

评论数:0

提示
确定要删除当前文章?
取消 删除
关闭
关闭