- 博客(6)
- 资源 (5)
- 问答 (2)
- 收藏
- 关注
原创 神经网络在文本分类中的应用
在自然语言的文本分类中,主要使用两类模型,一类是使用传统的机器学习模型,如朴素贝叶斯,最大熵,支持向量机等,第二类就是使用神经网络模型,包括CNN和RNN。传统的机器模型在分类前首先要做特征工程,例如把文本转换成词袋,并转化为TF-IDF矩阵,然后再做分类。而使用神经网络模型可以使它自己提取特征并进行文本分类,并能获得优于传统机器学习模型的能力。CNN模型的文本分类CNN原来是用于对图
2018-01-24 15:26:48 5808
原创 指针、指针常量与常量指针的理解
#includeusing namespace std;int main(){ int i = 1; const int j = 2; const int k = 3; int l = 4; /*========================普通指针,指针常量,常量指针========================*/ int *p = &i;//普通指针 cout <
2018-01-19 14:13:27 224
原创 最大熵模型实现文本分类
最大熵模型的理论部分可以参考李航的《统计学习方法》或皮果提的最大熵学习笔记,本次使用的训练算法为GIS(Generalized Iterative Scaling),这个Python代码主要是作为理解最大熵模型而用。# -*- coding: utf-8 -*-from collections import defaultdictimport mathclass MaxEnt(o
2018-01-17 10:57:10 3065 1
原创 神经网络机器翻译总结
神经网络机器翻译(Neural Machine Translation, NMT)是最近几年提出来的一种机器翻译方法。相比于传统的统计机器翻译(SMT)而言,NMT能够训练一张能够从一个序列映射到另一个序列的神经网络,输出的可以是一个变长的序列,这在翻译、对话和文字概括方面能够获得非常好的表现。NMT其实是一个encoder-decoder系统,encoder把源语言序列进行编码,并提取源语言中信
2018-01-13 10:14:30 32942 2
原创 基于转换的神经网络依存句法分析器
依存句法分析是自然语言处理中一个关键的问题,一是判断给定的句子是否合乎语法,再是为合乎语法的句子给出句法结构。为了准确做出句子的依存关系,不少学者提出了一些方法,如基于图的方法,基于转换的方法等。基于转换的依存句法分析Yamada和Matsumoto提出了使用SVM来训练基于转换的依存分析算法。他们根据三种分析行为(shift, right, left)对输入的句子进行从左到右顺序构建
2018-01-06 17:41:55 5244
原创 神经网络自然语言模型的一般化结构形式
一个神经网络自然语言模型当然需要神经网络的结构层次,但是在进入神经网络之前,怎么把单词表示成要输入的词向量,这也是一个非常重要的问题。其实,神经网络语言模型主要分两大部分,第一,输入词向量的表示问题,第二,神经网络结构的选择问题。只要处理好这两方面的问题,剩下的就交给训练了,当然其中还有一些细节。本文所描述的是一个一般化的多层神经网络结构,首先要说明一些标记记号: 假设一个神经网络函数为fθ(⋅)
2018-01-01 17:28:25 674
big data(大数据)
2017-01-01
OpenCV_with_Python_By_Example
2016-12-29
Data Structures and Algorithms with Python
2016-12-29
c语言控制台输出中文乱码问题
2018-03-28
非法类型开始与标识符
2017-08-07
TA创建的收藏夹 TA关注的收藏夹
TA关注的人