自然语言处理
weixin_42515907
此人不懒
展开
-
自然语言处理-5神经网络模型
文章目录前向神经网络前向传播和后向传播递归神经网络前向神经网络的局限:线性序列特点循环神经网络长短时记忆网络卷积神经网络前向神经网络前向传播和后向传播前向神经网络本质上是一个多元复合函数,由输入层、隐藏层、输出层组成,前向传播计算出输出,然后后向传播使用链式法则计算节点错误,并且优化参数,神经网络的最优参数是使得损失最小的参数。后向传播的两个重要过程:首先由前向传播计算出各个节点的激活函数输入值,然后通过后向传播计算各个节点错误。在参数估计中发挥重要作用。递归神经网络前向神经网络的局限:输原创 2020-12-26 14:25:43 · 622 阅读 · 0 评论 -
自然语言处理-4-对数线性模型
文章目录1、Logistic回归模型2、最大熵模型3、条件随机场1、Logistic回归模型2、最大熵模型3、条件随机场原创 2020-11-13 22:37:59 · 127 阅读 · 0 评论 -
自然语言处理-3-支持向量机
文章目录1、分类问题2、支持向量机2.1 核心思想2.2 相关算法2.3 结论3、松弛变量4、核函数1、分类问题分类平面 :指的是分类器的决策边界,能够将不同类别的数据点分开。函数距离 :函数距离的正负可以表示分类的正确性和信心。几何距离 : 几何距离可以表示样本点到分类平面的距离。支持向量和支持平面 : 最靠近分类平面的点是支持向量,支持向量构成支持平面。分类器的分类间距 :指的就是支持平面之间的距离。2、支持向量机2.1 核心思想最大化分类间距2.2 相关算法拉格朗日乘子法梯度原创 2020-11-12 21:54:00 · 194 阅读 · 0 评论 -
自然语言处理-2-隐马尔科夫模型(公式推导)
文章目录1、自然语言处理常用模型种类2、马尔科夫模型2.1特点2.2状态初始化概率和状态转移概率2.3参数估计-极大似然3、隐马尔科夫模型3.1观测状态与隐状态3.2隐状态初始化概率、隐状态转移概率和观测状态生成概率3.3三个基本问题给定模型参数,如何计算一个观测状态序列的概率?1、自然语言处理常用模型种类**生成式模型:**根据山羊的特征,来算出这只羊是山羊的概率有多大;再根据绵羊的特征,算出这只羊是绵羊的概率为多大。再判断在哪个里面的概率更大,就属于哪一种。如Naive Bayes、Hidden M原创 2020-11-10 21:51:42 · 635 阅读 · 1 评论 -
自然语言处理-1-概述和数学基础
文章目录1、自然语言的特点2、自然语言处理的典型任务3、数学知识自然语言处理是一门利用计算机处理人类语言的交叉学科。1、自然语言的特点线性、层次性、歧义性、演化性2、自然语言处理的典型任务中文分词、词性标注、文本分类、语言模型、语法改错、句法分析(句子的结构分析)、拼音输入法、情感分析、语义角色标注(找出句子的主谓宾)、语义分析、指代消解(coreference resolution)、机器翻译、文本摘要、对联生成、诗词生成、问答系统、对话系统、图像标题生成、共指消解: 指的是找到一句话中指向一原创 2020-11-10 00:09:02 · 260 阅读 · 0 评论