自然语言处理
你的名字5686
这个作者很懒,什么都没留下…
展开
-
基于深度学习的自然语言处理——介绍
基于深度学习的自然语言处理——介绍介绍自然语言处理的挑战神经网络与深度学习自然语言中的深度学习参考文献介绍自然语言处理的挑战语言不能被形式化地描述和理解;使用不明确规则集处理歧义和多样输入;自然语言存在的特性:离散性、组合性、稀疏性,使得自然语言处理更困难;语言存在组合性;以上性质的组合导致了数据稀疏性。(单词组合是无限的、合法句子是无限的)神经网络与深度学习神经网络是机器...原创 2019-03-15 23:08:55 · 976 阅读 · 0 评论 -
基于深度学习的自然语言处理——学习基础与线性模型
基于深度学习的自然语言处理——学习基础与线性模型学习基础与线性模型学习基础与线性模型有监督学习与参数化函数学习基础与线性模型学习基础与线性模型有监督学习与参数化函数有监督机器学习的精华:创造一种通过观察样本进而产生泛化的机制。假设类指的是包含函数的特定的函数簇。例如:具有dind_{in}din个变量的决策树空间。也确定了学习器可以表示什么,不可以表示什么。常见假设类(一个高...原创 2019-03-16 19:52:40 · 552 阅读 · 0 评论 -
基于深度学习的自然语言处理——神经网络训练
基于深度学习的自然语言处理——神经网络训练神经网络训练神经网络训练神经网络也是可微分的参数化函数,常用的训练方法就是基于梯度的yo’uhuanfangfa...原创 2019-03-20 22:31:46 · 2006 阅读 · 1 评论 -
基于深度学习的自然语言处理——从线性模型到多层感知机
基于深度学习的自然语言处理——从线性模型到多层感知机从线性模型到多层感知机线性模型的局限性非线性转换核方法可训练的映射函数参考文献从线性模型到多层感知机在这里我们介绍从线性模型到多层感知机的转变过程。线性模型的局限性很显然,线性模型对于处理非线性问题是完全无力的。非线性转换非线性转化其实说的就是再将数据输入到线性算法之前进行变换,通过公式表现为:y^=f(x)ϕ(x)W+b\hat ...原创 2019-03-18 20:25:42 · 370 阅读 · 0 评论 -
基于深度学习的自然语言处理——前馈神经网络
基于深度学习的自然语言处理——前馈神经网络前馈神经网络神经网络的由来数学表示感知器(最简单的神经网络)单隐层多层感知机(MLP1)表达能力常见非线性函数sigmoidtanhhard tanh修正线性单元(ReLU)损失函数正则化与丢弃法正则化丢弃法训练相似与距离层点积欧式距离可训练形式嵌入层参考文献前馈神经网络从现在开始,我们将进入真正的正题。前面的内容虽然基础,但是看了可能会有不同的感悟。...原创 2019-03-18 23:17:41 · 829 阅读 · 0 评论 -
基于深度学习的自然语言处理——文本特征构造
基于深度学习的自然语言处理——文本特征构造文本特征构造NLP分类问题中的拓扑结构NLP问题中的特征直接可观测特征可推断的语言学特征核心特征与组合特征n元组特征分布特征参考文献文本特征构造NLP分类问题中的拓扑结构词:词的解释依赖于其出现的上下文文本:主要是文本分类问题成对文本:给定成对文本,考虑成对信息上下文中的词:标记词性等词之间的关系:假定在一篇文本中分析两个词语间的关系N...原创 2019-03-23 15:14:19 · 672 阅读 · 0 评论 -
基于深度学习的自然语言处理——NLP特征的案例分析
基于深度学习的自然语言处理——NLP特征的案例分析NLP特征的案例分析文本分类:语言识别文本分类:主题分类文本分类:作者归属上下文中的单词:词性标注上下文中的单词:命名实体识别(NER)上下文中单词的语言特征:介词词义消歧上下文中单词的关系:弧分解分析参考文献NLP特征的案例分析文本分类:语言识别任务:给定一个文档或句子,希望将其归类为一组特定的语言核心特征:每个可能的二阶字母对文本...原创 2019-03-23 18:00:28 · 1921 阅读 · 0 评论