统计自然语言处理（概率上下文无关文法）

什么是语法解析

在自然语言中，句子可以分为主谓宾等表示。人们说话的方式（即使是在酒后的胡言乱语）也存在一些结构和规则。语言学中的语法分析的目标就是努力分离出这些语法结构。词语之间绝非是简单的顺序关系，它必须是描述词语如何相联系的。语法解析中有两个主要的问题：
1.句子语法在计算机中的表达与储存方式。
2.语法解析算法。

对于第一个问题，最近50年间，最主要的方法就是为每个句子构造一个树结构。举例如下，S表示句子；NP、VP、PP是名词、动词、介词短语（短语级别）；N、V、P分别是名词、动词、介词。

实际存储的时候上述的树可以表示为(S (NP (N Boeing)) (VP (V is) (VP (V located) (PP (P in) (NP (N Seattle))))))。互联网上已经有成熟的、手工标注的语料数据集，例如The Penn Treebank Project （Penn Treebank II Constituent Tags）。
以上名词短语的中心就是velocity而不是waves，这是顺序关系中得不到的结论。最简单的表达地嵌入概念的概率模型是PCFG，概率上下文无关文法就是一个为规则添加了概率的简单CFG，下面我们来看一下处理算法

———此处转载了Allanxl的博客——————