机器学习问题是把数据转换成信息进而提取到知识的过程,特征是“数据->信息”的过程,决定了结果的上限,模型是“信息->知识”的过程,则是去逼近这个上限。可见特征提取的重要性。
文本的处理涉及到分词,常规的我们会在网上找一个现成的分词工具,如jieba分词或者stanford的分词工具,网站上也有一些收费的分词工具,我们不需要去知道其中的原理,但如果需要我们对某些序列分词,则需要掌握一些已有的分词方法原理,传统方法主要是基于字符串匹配的正向/逆向/双向最大匹配,基于理解的句法和语义分析消歧,基于统计的互信息/CRF方法,近年随着深度学习的应用,WordEmbedding + Bi-LSTM +CRF成为主流。