deep-learning
文章平均质量分 80
粥老师
NLP算法工程师。GitHub:https://github.com/luozhouyang
展开
-
Tensorflow nmt的整体结构
Tensorflow nmt的整体结构 tensorflow/nmt项目的入口文件是nmt/nmt.py,通过指定不同的参数,可以从该入口进入到训练或者推断流程。首先来看一看,进入不同流程的时候,做了什么。 程序入口 首先我们可以看到这两个函数: def main(unused_argv): default_hparams = create_hparams(FL原创 2018-01-25 23:52:36 · 3530 阅读 · 1 评论 -
Tensorflow nmt的超参数
Tensorflow nmt的超参数 超参数一般用来定义我们的神经网络的关键参数. 在tensorflow/nmt这个demo中,我们的超参数在 nmt.nmt 模块中配置.这也导致了nmt.py这个文件的代码行数比较多,我们完全可以把参数的配置放到单独的一个文件中去.nmt.py 这个文件也是整个项目的入口文件.如果你想了解这个demo的整体结构,请查看我的另一篇博客tensorfl原创 2018-01-25 23:57:18 · 3595 阅读 · 2 评论 -
Tensorflow nmt的数据预处理过程
tensorflow nmt的数据预处理过程 在tensorflow/nmt项目中,训练数据和推断数据的输入使用了新的Dataset API,应该是tensorflow 1.2之后引入的API,方便数据的操作。如果你还在使用老的Queue和Coordinator的方式,建议升级高版本的tensorflow并且使用Dataset API。 本教程将从训练数据和推断数据两个方面,详解解原创 2018-01-26 00:00:24 · 5083 阅读 · 0 评论 -
tensorflow nmt源码解析
Tensorflow nmt源码解析 声明 本系列博客由 罗周杨 stupidme.me.lzy@gmail.com 原创,同步更新在多个平台,包括: csdn/stupid_3 github/luozhouyang 分享或转载请注明作者和原出处。 NMT即Neural Machine Translation,神经网络机器翻译。Google开源的tensor原创 2018-01-02 22:20:25 · 3006 阅读 · 3 评论 -
《Fluency Boost Learning and Inference for Neural Grammatical Error Correction》论文总结
今天看到微软亚洲研究院的一篇论文,通过Fluency boost learning提升模型性能,论文地址为: Fluency Boost Learning and Inference for Neural Grammatical Error Correction,有兴趣的同学可以去下载看看。在此我总结了一下这篇论文。 核心思想这篇论文的核心思想其实很简单,就是通过有效地增加训练数据,...原创 2018-07-22 16:24:08 · 1153 阅读 · 0 评论 -
Logistic regression逻辑回归笔记
想了解机器学习和深度学习?从逻辑回归(Logistic regression)开始吧!Logistic regression笔记原创 2018-08-05 17:10:34 · 285 阅读 · 0 评论 -
自己动手实现word2vec(skip-gram模型)
本文由罗周杨原创,转载请注明作者和出处。未经允许,不得用于商业用途学习word2vec的skip-gram实现,除了skip-gram模型还有CBOW模型。 Skip-gram模式是根据中间词,预测前后词,CBOW模型刚好相反,根据前后的词,预测中间词。那么什么是中间词呢?什么样的词才叫做前后词呢?首先,我们需要定义一个窗口大小,在窗口里面的词,我们才有中间词和前后词的定义。...原创 2018-09-12 09:56:54 · 3087 阅读 · 1 评论 -
自己动手实现一个神经网络多分类器
本文由罗周杨stupidme.me.lzy@gmail.com原创,转载请注明作者和出处。未经授权,不得用于商业用途。不使用任何深度学习框架,实现一个简单的神经网络用来分类。 手把手带你搭建神经网络,包括损失函数的选择,已经手写反向传播代码。生成一些数据生成一些数据,这些数据不太容易线性分类。import numpy as npimport matplotlib...原创 2018-09-12 09:59:25 · 17503 阅读 · 1 评论 -
自己动手实现神经网络分词模型
本文由**罗周杨stupidme.me.lzy@gmail.com**原创,转载请注明原作者和出处。原文链接:https://luozhouyang.github.io/deepseg分词作为NLP的基础工作之一,对模型的效果有直接的影响。一个效果好的分词,可以让模型的性能更好。在尝试使用神经网络来分词之前,我使用过jieba分词,以下是一些感受:分词速度快词典直接影响分词效果,对...原创 2018-12-07 12:25:08 · 3377 阅读 · 0 评论