2019年05月_listwebit

12月 10月 09月 08月 07月 06月 05月 04月 03月 02月 01月

原创 leetcode刷题笔记

第1题：Given an array of integers, return indices of the two numbers such that they add up to a specific target.You may assume that each input would have exactly one solution, and you may not use the sa...

2019-05-31 14:36:26 87

原创 FAQ问答系统综述

一、分类1.按照领域划分根据问题所属的知识领域，问答系统可分为面向限定域的问答系统、面向开放域的问答系统。2.按照反馈机制划分问答系统还可以分为基于检索式的问答系统和基于生成式的问答系统。二、检索式问题系统1.原理检索式需要爬取很多对话语料，然后线上根据来的问题，给出一个语料库里最相似回复...

2019-05-30 18:34:08 1214 1

原创 Seq2Seq mode算法详解

Seq2Seq模型是RNN最重要的一个变种：N vs M（输入与输出序列长度不同）。这种结构又叫Encoder-Decoder模型。原始的N vs N RNN要求序列等长，然而我们遇到的大部分问题序列都是不等长的，如机器翻译中，源语言和目标语言的句子往往并没有相同的长度。为此，Encoder-Decoder结构先将输入数据编码成一个上下文向量c：...

2019-05-30 14:40:35 793

原创 attention model算法详解

参考：1.https://blog.csdn.net/malefactor/article/details/50550211

2019-05-30 14:27:39 525

原创 GRU算法详解

一、原因前面我们讲了一种普通的LSTM，事实上LSTM存在很多变体，许多论文中的LSTM都或多或少的不太一样。在众多的LSTM变体中，GRU (Gated Recurrent Unit)也许是最成功的一种。它对LSTM做了很多简化，同时却保持着和LSTM相同的效果。因此，GRU最近变得越来越流行。二、定义...

2019-05-29 17:37:09 23470

原创 LSTM算法解析

一、原因我们也介绍了循环神经网络很难训练的原因，这导致了它在实际应用中，很难处理长距离的依赖。在本文中，我们将介绍一种改进之后的循环神经网络：长短时记忆网络(Long Short Term Memory Network, LSTM)，它成功的解决了原始循环神经网络的缺陷，成为当前最流行的RNN，在语音识别、图片描述、自然语言处理等许多领域中成功应用。但不幸的一面是，LSTM的结构很复杂，因此，我...

2019-05-29 17:26:07 8906

原创 RNN算法详解

一、起因DNN无法对时间序列上的变化进行建模。然而，样本出现的时间顺序对于自然语言处理、语音识别、手写体识别等应用非常重要。为了适应这种需求，就出现了大家所说的另一种神经网络结构——循环神经网络RNN。二、定义1.RNN图像定义2.双向RNN的图像定义三、RNN模型的优点缺点1.优点2.缺点梯度消失问题梯度爆炸问题...

2019-05-29 16:23:52 3185

原创 CRF算法

一、概念1.定义条件随机场：是给定一组输入随机变量条件下，另一组输出随机变量的条件概率分布模型。2.特点假设输出随机变量构成马尔科夫随机场。参考：1.https://spaces.ac.cn/archives/5542/comment-page-12.https://www.zhihu.com/question/35866596/answer/236886066...

2019-05-28 14:32:26 5362

原创信息抽取

1.https://blog.csdn.net/u014108004/article/details/84141870信息抽取：实体识别，事件抽取，关系抽取

2019-05-17 16:59:29 151

原创深度学习常见的激活函数

一、sigmoid 函数1.公式y(x)=11+e−xy(x) = \frac{1}{1+e^{-x}}y(x)=1+e−x12.图像3.性质(1)y′=y∗(1−y)y'= y*(1-y)y′=y∗(1−y)(2)y′y'y′导数的最大值为：1/4二、softmax函数1.公式y(x)=exi∑i=1mexiy(x)=\frac{e^...

2019-05-16 11:48:55 114

原创 LR(逻辑回归)

一、假设函数 (Hypothesis)就是在多元线性回归的基础上再加一个sigmod函数。yθ(x)=θ0+θ1x1+θ2x2....+θixiy_\theta(x) = \theta_0 +\theta_1x_1+\theta_2x_2....+\theta_ix_iyθ(x)=θ0+θ1x1+θ2x2....+θixizθ(x)=11+e−xz_\theta(x) = \...

2019-05-13 21:05:53 225