- 博客(18)
- 资源 (4)
- 收藏
- 关注
RSS订阅原创 情感分析之电影评论分析-基于Tensorflow的LSTM
1. 深度学习在自然语言处理中的应用自然语言处理是教会机器如何去处理或者读懂人类语言的系统,目前比较热门的方向,包括如下几类:对话系统 - 比较著名的案例有:Siri,Alexa 和 Cortana。 情感分析 - 对一段文本进行情感识别。 图文映射 - 用一句话来描述一张图片。 机器翻译 - 将一种语言翻译成另一种语言。 语音识别 - 让电脑识别口语。2. 情感分...
2018-08-30 10:25:22
24162
14
原创 基于Gensim的Word2Vec的应用
一：word2vec的基础简介可以参考： https://blog.csdn.net/lilong117194/article/details/82018008 https://blog.csdn.net/lilong117194/article/details/82085172 https://blog.csdn.net/lilong117194/article/details/81979...
2018-08-30 09:58:35
3414
转载 知识图谱资源-NLP
NLP自然语言处理（Natural Language Processing）是深度学习的主要应用领域之一。 教程 http://cs224d.stanford.edu/ CS224d: Deep Learning for Natural Language Proce...
2018-08-29 13:49:07
2362
原创 word2vec的通俗理解
在自然语言处理领域中，本文向量化是文本表示的一种重要方式。在当前阶段，对文本的大部分研究都是通过词向量化实现的，但同时也有一部分研究将句子作为文本处理的基本单元，也就是doc2vec和str2vec技术。1. 向量化算法word2vec大家很熟悉的词袋(bag of words)模型是最早的以词语为基本处理单元的文本向量化算法，所谓的词袋模型就是借助于词典把文本转化为一组向量，下面是两个简...
2018-08-28 23:40:17
21844
14
原创 tensorflow的tf.transpose()简单使用
tf.transpose(input, [dimension_1, dimenaion_2,..,dimension_n]):这个函数主要适用于交换输入张量的不同维度用的，如果输入张量是二维，就相当是转置。dimension_n是整数，如果张量是三维，就是用0,1,2来表示。这个列表里的每个数对应相应的维度。如果是[2,1,0]，就把输入张量的第三维度和第一维度交换。import tensor...
2018-08-28 14:52:23
1192
原创 词嵌入算法
基于神经网络的表示一般称为词向量、词嵌入(word embdding)或分布式表示。神经网络的词向量和其他分布式类似，都基于分布式表达方式，核心依然是上下文的表示以及上下文与目标词之间的关系映射。主要通过神经网络对上下文，以及上下文和目标词之间的关系进行建模，之所以神经网络可以进行建模，主要是由于神经网络的空间非常大，所以这种方法可以表达复杂的上下文关系。1. 词向量nlp中最常见的第...
2018-08-27 01:06:42
11072
原创 神经网路语言模型(NNLM)的理解
用神经网络来训练语言模型的思想最早由百度 IDL （深度学习研究院）的徐伟提出[1],NNLM（Nerual Network Language Model）是这方面的一个经典模型，具体内容可参考 Bengio 2003年发表在JMLR上的论文。与传统的估算p(wt|wt−(n−1),...wt−1)p(wt|wt−(n−1),...wt−1)p(w_t|w_{t-(n-1)},...w_{t-...
2018-08-24 17:53:36
24091
6
原创 基于tensorflow的RNN自然语言建模
#!/usr/bin/env python3# -*- coding: utf-8 -*-"""Created on Tue Aug 21 09:48:09 2018@author: lilong""&am
2018-08-23 11:44:27
1011
原创 tensorflow中name_scope和variable_scope变量的使用
1. variable_scope的使用首先，使用variable_scope可以很方便的管理get_varibale。如何确定 get_variable 的 prefixed name?1.1 variable scope是可以嵌套的:import tensorflow as tfwith tf.variable_scope("tet1"): var3 = tf....
2018-08-21 17:22:48
3268
原创 mac下的tensorflow报错提示没有models库
原因：目前tf1.0版本的也就是比较新的版本都将models库剔除，当做第三方库来使用了。解决方案： 1. 直接重新下载安装 tf的低的版本 2. 手动安装models库我这里选择的是手动安装models库： 网上查的资料说可以通过提前下载好model文件，然后将models文件放在/Users/lilong/anaconda3/envs/tensorflow/lib/pytho...
2018-08-20 17:59:09
968
原创 tensorflow 模型的保存和加载
为了让训练结果可以复用，需要将训练得到的神经网络模型持久化，也就是把模型的参数保存下来，并保证可以持久化后的模型文件中还原出保存的模型。1. 保存模型tensorflow提供了一个API可以方便的保存和还原神经网络的模型。这个API就是tf.train.saver类。import tensorflow as tf# 保存计算两个变量和的模型v1 = tf.Variable(tf....
2018-08-16 19:08:58
1351
转载 通俗讲解自底向上构建知识图谱全过程
知识图谱的基础介绍，供学习参考。 转载自：https://mp.weixin.qq.com/s/7cBbtqvPQUVrLZUNDx8XDQ下面开始正文： 知识图谱的构建技术主要有自顶向下和自底向上两种。其中自顶向下构建是指借助百科类网站等结构化数据源，从高质量数据中提取本体和模式信息，加入到知识库里。而自底向上构建，则是借助一定的技术手段，从公开...
2018-08-15 11:13:22
3033
原创 tensorflow中学习率、过拟合、滑动平均的学习
1. 学习率的设置我们知道在参数的学习主要是通过反向传播和梯度下降，而其中梯度下降的学习率设置方法是指数衰减。 通过指数衰减的学习率既可以让模型在训练的前期快速接近较优解，又可以保证模型在训练后期不会有太大的波动，从而更加接近局部的最优解。 在tensorflow中提供了一个灵活的学习率设置方法，tf.train.exponential_decay函数实现了指数衰减，其实现的原理如下：...
2018-08-14 17:46:31
3283
1
原创 tensorflow入门之损失函数
1. 深层网络介绍激活函数实现去线性化 在没有加入激活函数的时候，一个模型的运算其实就是输出是输入的线性加权和，不管中间有多少的隐层，因为每个隐藏层都是在做一个线性变换，后面不管再加上多少隐藏层，都是在做线性变换，因为线性模型的特点就是任意线性模型的组合任然是线性模型。 比如前向传播的计算公式：a(1)=XW(1),y=a(1)W(2)a(1)=XW(1),y=a(1)W(2)a^{(1)...
2018-08-14 09:47:26
634
原创 Tensorflow实现简单神经网络
1. 神经网络参数与tensorflow变量在tensorflow中使用tf.variable定义变量，变量作用是保存和更新神经网络中的参数。并且要给变量初始化一个初始值：weights=tf.Variable(tf.random_normal([2, 3], stddev=2))这里定义了一个2x3的矩阵，矩阵中的元素是均值为0，标核差为2的随机数，这是因为tf.random_n...
2018-08-13 13:42:41
654
原创 tensorflow入门基础
tensorflow程序一般分为两个阶段，在第一个阶段需要定义图中所有的计算。在第二个阶段就是执行计算。1. 计算图的使用首先在tensorflow的程序中系统会维护一个默认的计算图，通过tf.get_default_graph()可以获取当前默认的计算图。下面展示了 如何获得一个运算所属的计算图以及默认的计算图：import tensorflow as tfa = tf.c...
2018-08-12 18:44:44
282
原创 深度学习中softmax交叉熵损失函数的理解
softmax层的作用通过神经网络解决多分类问题时，最常用的一种方式就是在最后一层设置n个输出节点，无论在浅层神经网络还是在CNN中都是如此，比如，在AlexNet中最后的输出层有1000个节点，即便是ResNet取消了全连接层，但1000个节点的输出层还在。一般情况下，最后一个输出层的节点个数与分类任务的目标数相等。 假设最后的节点数为N，那么对于每一个样例，神经网络可以得到一个N维的...
2018-08-11 23:49:43
29233
7
原创 mac下查看tensorboard中的graph
这里简单介绍下在tensorflow中查看计算图的方法：首先是一个简单的例子：#!/usr/bin/env python3# -*- coding: utf-8 -*-"""Created on Thu Aug 9 09:32:50 2018@author: lilong"""import tensorflow as tf# 定义一个graph类graph = t..
2018-08-09 11:00:42
2337
2
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人